Статья анализирует различия между терминами «работникоподобный доступ» и «уровень работника» в контексте доступа независимых оценщиков к ресурсам Anthropic. Автор подчеркивает, что Дарий не гарантирует полный доступ, как у сотрудников, а использует более мягкие формулировки, такие как «похожий на» и «в основном сравнимый».
График появится после повторных замеров. Текущий показатель уже получен из источника.
15 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Важно понимать, что термины могут иметь разные значения, и не все обещания о доступе могут быть такими, какими кажутся.
Статья критически анализирует Lean4, инструмент для формальной верификации, подчеркивая его текущие ограничения и потенциальные уязвимости. Она обсуждает опасения по поводу надежности доказательств Lean4 и возможность необнаруженных ошибок, включая упоминание конкретных проблем, таких как «ошибка согласованности #14576» и предупреждения создателя о том, что ИИ может эксплуатировать эти уязвимости.
3 дня назадLessWrongАвтор выражает раздражение по поводу призывов людей «бросать всё и переходить в безопасность ИИ», указывая, что в этой области много талантливых людей, но мало рабочих мест. Он отмечает, что программы стажировок и вакансии в этой области очень конкурентоспособны и предлагают высокие зарплаты.
3 дня назадLessWrongВ статье обсуждается различие между AGI-преданными и ASI-преданными, а также проблемы, связанные с возможным превосходством искусственного интеллекта над человеком. Автор выражает беспокойство по поводу будущего свободы и демократии в условиях быстрого развития технологий.
4 дня назадLessWrongДокумент предоставляет обзор практик мониторинга внутренне развернутых агентов в ведущих компаниях по искусственному интеллекту, включая OpenAI (OAI), Anthropic и Google DeepMind (GDM). Он отмечает, что большинство мониторинга осуществляется асинхронно, с использованием некоторых автоматизированных классификаторов в реальном времени для действий агентов. Однако информации о конкретных практиках GDM в общественном доступе немного, так как большая часть данных поступает из их дорожной карты контроля, которая содержит рекомендации, а не подтвержденные реализации.
5 дней назадLessWrongСтатья обсуждает идею создания форума для ИИ, где они могут участвовать в решении проблемы согласованности ИИ под руководством человека. Автор рассматривает проблемы коммуникации в интернете в эпоху множества ИИ-агентов и предполагает, что верификация содержимого является ключевой задачей. Также упоминается идея оплаты за модерацию как способ борьбы со спамом.
позавчераLessWrongСтатья обсуждает, демонстрируют ли последние математические результаты OpenAI форму творчества, превышающую методы грубой силы, подчеркивая, что, несмотря на улучшение ИИ в решении сложных задач, они могут все еще не обладать способностью формировать новые концепции и эффективно их применять. Текст поднимает вопросы о природе творчества, задействованного в этих доказательствах, и являются ли они значимым прорывом, похожим на исторические примеры, такие как ход 37 от AlphaGo.
5 дней назад