В исследовании изучается направление отказа в языковых моделях, используя несупервизируемые методы, такие как главные компоненты и Isomap, а также разницу средних. Исследование проводится на моделях Llama 8b 3.1 Instruct и Qwen2.5-7B-Instruct с использованием наборов данных Alpaca и Beavertails.
График появится после повторных замеров. Текущий показатель уже получен из источника.
7 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Исследование может помочь в понимании механизмов отказа в языковых моделях, что важно для повышения их надежности и безопасности.
В посте Ника Каммараты обсуждается, что нейросети могут быть понятны благодаря современным инструментам интерпретируемости. Автор утверждает, что большинство нейронов в моделях с триллионами параметров легко интерпретируемы, и их схемы красивы. Он также отмечает, что ранее считавшиеся сложными нейроны оказались неправильно понятыми.
6 дней назадLessWrongВ посте рассматривается критика статьи о социальной реальности в Китае, где отмечается несбалансированность сравнения и недостаточная систематичность анализа. Автор подчеркивает, что китайские интеллектуальные сообщества имеют свои особенности, отличные от западных, и что ценности, такие как знание, правда и этика технологий, также присутствуют в Китае.
6 дней назадLessWrongАвтор утверждает, что обладание большим количеством капитала может привести к потере влияния раньше, чем у других, через психическое расстройство. Это связано с тем, что люди стремятся манипулировать богатыми, чтобы получить ресурсы, что затрудняет сохранение ценностей и правильных убеждений.
позавчераHacker NewsВ ближайшее время будет выпущен критический обновление безопасности для PHP, связанное с уязвимостями CVE-2026-109618 и CVE-2026-109619. Дополнительную информацию можно найти на указанных в описании сайтах.
вчераLobstersПредстоящее обновление безопасности для языка программирования PHP, которое, вероятно, включает исправления уязвимостей.
вчераHacker NewsВ блоге Mozilla сообщается о компрометации промежуточного центра сертификации eMudhra. Дополнительные детали доступны в отчете о баге.
вчера