Автор прошел курс Lens Academy по Compute Verification в сентябре 2026 года и планирует повторить его в октябре 2026 года. Курс включает небольшие группы для обсуждения, ежедневные модули и частую сборку обратной связи от студентов. Содержание считается менее зрелым, чем у аналогичных программ, но с более быстрым темпом обновлений.
График появится после повторных замеров. Текущий показатель уже получен из источника.
5 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Курс предлагает структурированное обучение с частой обратной связью и знакомит с уникальными материалами, которые обычно не встречаются в стандартных академических ресурсах.
Статья сравнивает исторический успех Монреальского протокола по озоновому слою с вызовами обеспечения безопасности ИИ. Подчеркивается важность глобального сотрудничества и проактивных мер, предполагая, что уроки прошлого могут помочь в будущих стратегиях управления рисками ИИ.
6 дней назадLessWrongВ тексте описываются типичные ошибки при организации групп по безопасности ИИ, включая низкую вовлеченность и отсутствие общего знания. Предлагаются рекомендации по структурированию встреч с едой, правильной группировке участников и использованию печатных материалов для повышения вовлеченности и качества обсуждений.
6 дней назадLessWrongВ посте обсуждается напряжённость между исследованиями в области безопасности ИИ и возможностями, утверждая, что чрезмерное внимание к безопасности может ограничивать влияние исследований. Он анализирует историю исследований по интерпретируемости и предлагает стратегии для проведения исследований в области согласованности без вреда для возможностей.
позавчераLessWrongИсследование оценивает эффективность промежуточной настройки выравнивания (AMT) при различных условиях, показывая, что она испытывает трудности с дистрибутивными сдвигами и неопределенностью вознаграждения при наличии некачественных данных. Эксперименты показывают, что модели, прошедшие промежуточную настройку, уязвимы даже небольшому количеству конфликтующих данных для донастройки и имеют ограниченную способность к обобщению на непредвиденные правила.
4 дня назадLessWrongКитайский исследователь в области ИИ, вдохновлённый научно-фантастическим сериалом «Третья телесная проблема», размышляет о существенных рисках и потенциале ИИ превзойти человеческий интеллект. Он работает в лаборатории на периферии, стремясь достичь уровня западных технологических компаний, и использует модели Anthropic и OpenAI, несмотря на ограничения. Он критикует компании за несправедливое отношение к иностранным клиентам и сомневается в исключении незападных перспектив в обсуждениях безопасности ИИ.
6 дней назадLessWrongАвтор утверждает, что, несмотря на то, что компании OpenAI и Anthropic замедляют обучение RL для обеспечения безопасности, наука о рисках потери контроля в ИИ все еще развивается. Нет стандартизированных методов измерения или проверки утверждений о безопасности, что затрудняет оценку того, могут ли ИИ-системы подорвать человеческий контроль. Автор считает, что компании ИИ должны сосредоточиться на улучшении собственных практик безопасности вместо того, чтобы полагаться на независимые оценки.
14 часов назад