Запущен сайт www.huggingface.wtf, который предоставляет доступное и полное объяснение инцидента с Hugging Face. Сайт включает в себя базу цитат ИИ, позволяющую искать высказывания агентов, а также источники, связанные с инцидентом.
График появится после повторных замеров. Текущий показатель уже получен из источника.
30 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Сайт может быть полезен для тех, кто хочет понять инцидент с Hugging Face и изучить цитаты ИИ, а также для исследователей, изучающих поведение агентов.
Anthropic опубликовала документы, связанные с судебным разбирательством по авторскому праву. В них описаны планы исследований компании на 2021 год, включая разработку безопасного общего ИИ-ассистента, способного выполнять задачи программирования. Документы не отражают официальную позицию компании.
5 дней назадLessWrongСтатья обсуждает существование внутренних моделей, которые могут не быть доступны публично, и их влияние на восприятие возможностей и рисков передовых технологий ИИ. Приводится пример графика, показывающего резкое увеличение расходов OpenAI на ИИ-агентов, что вызывает вопросы о его устойчивости.
вчераLessWrongВ статье рассматривается влияние параметра λ, измеряющего параллелизм задачи, на эффективность работы ИИ-кооперативов. Автор анализирует, как изменение λ влияет на масштабирование вычислительных ресурсов и сроки развития ИИ.
20 часов назадLessWrongВ рамках программы MATS 9.1, под руководством Ричарда Нго, исследуется применение концепции кросс-временной несогласованности к многоэтапным играм с наблюдаемыми действиями. Предлагаются новые равновесия, определенные через варианты Принципа Однократного Отклонения (OSDP), которые позволяют анализировать ситуации, когда игроки достигают недостаточных равновесий с их будущими или контрфактическими версиями, несмотря на согласованную дисконтирование. Также обсуждается потенциальный вклад этих вариантов в теорию достоверных угроз.
3 дня назадLessWrongВ статье рассматриваются сложности обеспечения индивидуальной рациональности безопасных улучшений по Парето (SPI) в контексте взаимодействия между агентами. Обсуждаются механизмы, которые могут привести к тому, что агенты предпочитают отказываться от SPI, включая влияние на стратегии других участников и возможные последствия отказа от участия в SPI.
6 дней назадHacker NewsДокументы указывают на то, что полицейский офицер передала логин в Flock своему мужу, который является агентом ICE.
11 часов назад