Недавняя статья от Goodfire представляет блоково-разреженные фильтры (BSF) как метод перевода нейронных активаций в интерпретируемые концепции. Подход использует интуицию, что связанные концепции расположены в низкоразмерных многообразиях, позволяя более компактно представлять активации по сравнению с традиционными методами, такими как разреженные автокодеры (SAE).
График появится после повторных замеров. Текущий показатель уже получен из источника.
15 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это исследование предлагает новый подход для интерпретации активаций нейросетей, используя низкоразмерные многообразия, что может улучшить понимание того, как модели представляют концепции.
Статья обсуждает фальсификацию Пилtdown Man, обманувшую биологию эволюции в течение десятилетий. Автор проводит параллель между Пилtdown Man и рукописью Войнич, предполагая, что последняя также может быть бесполезной фальсификацией. Автор утверждает, что, несмотря на наличие доказательств, подтверждающих идею о том, что рукопись Войнич — это подделка, она не соответствует современным стандартам доказательств для доказательства мошенничества.
18 часов назадLessWrongJ++ Lens улучшает J-Lens, фильтруя шумные градиенты для повышения точности чтения промежуточных переменных из активаций языковой модели. Он достигает 55% точности в задачах извлечения скрытых переменных, превосходя J-Lens (36%) и R-Lens (38%) с лучшими результатами на более ранних слоях.
3 дня назадHacker NewsИсточник упоминает репозиторий для обмена достижениями в области искусственного интеллекта в математике, с ссылками на страницу GitHub и каталог предварительных версий.
5 дней назадLobstersСтатья обсуждает проблемы с психическим здоровьем, с которыми сталкиваются разработчики программного обеспечения.
4 дня назадLobstersОписание: Что не так с GitHub
21 час назадHacker NewsПредставлена разработка под названием Carrier-Explode, представляющая собой сторонний проект, который непрерывно архивирует настройки операторов для всех основных брендов мобильных телефонов. Инструмент включает дешифровщики и объяснения для распространенных настроек базовой станции и других параметров.
позавчера