Someone recently pointed out that I underestimated the amount of interpretability researchers when I thought about the most important and neglected research directions, so I made a semantic map and clustering of recent AI safety papers to get a better understanding of what AI safety researchers are working on. This map was created by taking the title and abstract of each paper, embedding with BGE-small-v1.5, reducing to 5 dimensions with UMAP, clustering with HBDSCAN, and then reducing to 2 dimensions. The data is from the Shallow Reviews of Technical AI Safety (2025, 2024, 2023). The idea is from this old LessWrong post.
Перевод готовится · пока описание источникаГрафик появится после повторных замеров. Текущий показатель уже получен из источника.
8 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
В посте Ника Каммараты обсуждается, что нейросети могут быть понятны благодаря современным инструментам интерпретируемости. Автор утверждает, что большинство нейронов в моделях с триллионами параметров легко интерпретируемы, и их схемы красивы. Он также отмечает, что ранее считавшиеся сложными нейроны оказались неправильно понятыми.
6 дней назадLessWrongВ посте рассматривается критика статьи о социальной реальности в Китае, где отмечается несбалансированность сравнения и недостаточная систематичность анализа. Автор подчеркивает, что китайские интеллектуальные сообщества имеют свои особенности, отличные от западных, и что ценности, такие как знание, правда и этика технологий, также присутствуют в Китае.
5 дней назадLessWrongАвтор утверждает, что обладание большим количеством капитала может привести к потере влияния раньше, чем у других, через психическое расстройство. Это связано с тем, что люди стремятся манипулировать богатыми, чтобы получить ресурсы, что затрудняет сохранение ценностей и правильных убеждений.
позавчераHacker NewsВ ближайшее время будет выпущен критический обновление безопасности для PHP, связанное с уязвимостями CVE-2026-109618 и CVE-2026-109619. Дополнительную информацию можно найти на указанных в описании сайтах.
22 часа назадLobstersПредстоящее обновление безопасности для языка программирования PHP, которое, вероятно, включает исправления уязвимостей.
20 часов назадHacker NewsВ блоге Mozilla сообщается о компрометации промежуточного центра сертификации eMudhra. Дополнительные детали доступны в отчете о баге.
вчера