Текст описывает основные принципы понимания продвинутого ИИ, делая акцент на машинном обучении и масштабировании. Он объясняет, что модели ИИ учатся поведению на основе данных, а не на явном программировании, и что улучшения происходят благодаря лучшим данным, вычислительным мощностям и алгоритмам. Также упоминается «горький урок», согласно которому больше вычислительных мощностей часто превосходит знания человека, и факторы, влияющие на темп развития ИИ.
График появится после повторных замеров. Текущий показатель уже получен из источника.
8 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Этот текст предоставляет основу для понимания развития ИИ и вызовов, подчеркивая, как ИИ учится на данных и факторы, способствующие его развитию.
Статья сравнивает исторический успех Монреальского протокола по озоновому слою с вызовами обеспечения безопасности ИИ. Подчеркивается важность глобального сотрудничества и проактивных мер, предполагая, что уроки прошлого могут помочь в будущих стратегиях управления рисками ИИ.
5 дней назадLessWrongВ тексте описываются типичные ошибки при организации групп по безопасности ИИ, включая низкую вовлеченность и отсутствие общего знания. Предлагаются рекомендации по структурированию встреч с едой, правильной группировке участников и использованию печатных материалов для повышения вовлеченности и качества обсуждений.
5 дней назадLessWrongВ посте обсуждается напряжённость между исследованиями в области безопасности ИИ и возможностями, утверждая, что чрезмерное внимание к безопасности может ограничивать влияние исследований. Он анализирует историю исследований по интерпретируемости и предлагает стратегии для проведения исследований в области согласованности без вреда для возможностей.
вчераLessWrongИсследование оценивает эффективность промежуточной настройки выравнивания (AMT) при различных условиях, показывая, что она испытывает трудности с дистрибутивными сдвигами и неопределенностью вознаграждения при наличии некачественных данных. Эксперименты показывают, что модели, прошедшие промежуточную настройку, уязвимы даже небольшому количеству конфликтующих данных для донастройки и имеют ограниченную способность к обобщению на непредвиденные правила.
3 дня назадLessWrongКитайский исследователь в области ИИ, вдохновлённый научно-фантастическим сериалом «Третья телесная проблема», размышляет о существенных рисках и потенциале ИИ превзойти человеческий интеллект. Он работает в лаборатории на периферии, стремясь достичь уровня западных технологических компаний, и использует модели Anthropic и OpenAI, несмотря на ограничения. Он критикует компании за несправедливое отношение к иностранным клиентам и сомневается в исключении незападных перспектив в обсуждениях безопасности ИИ.
5 дней назадLessWrongАвтор выражает опасения по поводу обучения с подкреплением (RL) с теоретической, практической и будущей точек зрения, подчеркивая риски неправильной совместимости и потенциальное негативное поведение в системах ИИ. Он предлагает стратегии для смягчения этих рисков, сокращая использование RL, улучшая практики RL и выравнивая стимулы.
позавчера