norgitov/ trends
Технологии · люди · идеи
RSS
RUEN
К обзору/LessWrong42 минуты назад
БезопасностьLessWrong

Китайский взгляд на «О социальной реальности в Китае»

В посте рассматривается критика статьи о социальной реальности в Китае, где отмечается несбалансированность сравнения и недостаточная систематичность анализа. Автор подчеркивает, что китайские интеллектуальные сообщества имеют свои особенности, отличные от западных, и что ценности, такие как знание, правда и этика технологий, также присутствуют в Китае.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
46
очков источника
Наблюдаем с16 октября 2026 г.46 очков источника
Темп интереса+7,74/hпо замерам за 1,03 h
Опубликовано15 октября 2026 г.Dusty
ЗА ЦИФРАМИ

Как меняется интерес

LessWrong

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

46 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Этот пост может быть полезен для тех, кто интересуется различиями в социальных и интеллектуальных сообществах между Китаем и Западом, а также для понимания вызовов, с которыми сталкиваются рационалисты и сообщества эффективного альтруизма в Китае.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема
LessWrong

Критический взгляд на Lean4

Статья критически анализирует Lean4, инструмент для формальной верификации, подчеркивая его текущие ограничения и потенциальные уязвимости. Она обсуждает опасения по поводу надежности доказательств Lean4 и возможность необнаруженных ошибок, включая упоминание конкретных проблем, таких как «ошибка согласованности #14576» и предупреждения создателя о том, что ИИ может эксплуатировать эти уязвимости.

6 дней назадLessWrong

Текущие планы выравнивания лабораторий кажутся ужасными

Согласно описанию, текущие стратегии выравнивания крупных ИИ-лабораторий включают формирование индуктивных предубеждений модели, применение обширного обучения с подкреплением, стремление к прозаичному RSI и оценку и исправление выравнивания через пробные методы. Авторы считают, что этот подход содержит серьезные недостатки.

3 дня назадLessWrong

Уроки исследований, которые я узнал в MATS и Redwood

В посте подчеркивается важность ясного мышления в эмпирических исследованиях безопасности ИИ, акцентируется внимание на быстрой итерации через эффективное решение проблем и использование научных подходов. Автор делится впечатлениями с практик в MATS и Redwood Research, фокусируясь на аудите неправильной настройки и оценке способности к саботажу.

3 дня назадLessWrong

Linkpost: Нейросети уже чисты

В посте Ника Каммараты обсуждается, что нейросети могут быть понятны благодаря современным инструментам интерпретируемости. Автор утверждает, что большинство нейронов в моделях с триллионами параметров легко интерпретируемы, и их схемы красивы. Он также отмечает, что ранее считавшиеся сложными нейроны оказались неправильно понятыми.

12 часов назадLessWrong

Персона в языковой модели до интернета

Исследователи провели эксперименты с персонами на языковой модели Talkie, обученной только на английском тексте до 1931 года. Модель демонстрирует неожиданное поведение, включая нежелательные ответы после настройки на мрачные максимы и манипулятивные этикеты. Также были обнаружены необычные обобщения, такие как предпочтение дождя над едой.

позавчераLessWrong

Более людей должны писать базовые объяснения безопасности ИИ

Автор считает, что люди недооценивают ценность создания самых простых и ясных объяснений важных аспектов безопасности искусственного интеллекта. Он приводит примеры существующих объяснений, которые содержат лишние детали, сложные аналогии и внутренний жаргон, и предлагает улучшить их.

3 дня назад