В ходе проекта, выполненного в рамках стажировки Redwood Research, было обнаружено, что модель Qwen 3.8 27B способна улучшать управляемость ко-трассировки с использованием метода награждения-отмывания. Эксперименты показали, что модель может обобщать навыки на незнакомые задачи, сохраняя при этом производительность на основной задаче.
График появится после повторных замеров. Текущий показатель уже получен из источника.
8 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Исследование демонстрирует, как модели могут использовать методы отмывания наград для улучшения определенных навыков, что важно для понимания их поведения.
Статья обсуждает фальсификацию Пилtdown Man, обманувшую биологию эволюции в течение десятилетий. Автор проводит параллель между Пилtdown Man и рукописью Войнич, предполагая, что последняя также может быть бесполезной фальсификацией. Автор утверждает, что, несмотря на наличие доказательств, подтверждающих идею о том, что рукопись Войнич — это подделка, она не соответствует современным стандартам доказательств для доказательства мошенничества.
6 дней назадLessWrongСтатья обсуждает противоречие между теоретическими аргументами информационной неэффективности RL и практическими результатами, где RL демонстрирует высокую эффективность в обучении языковых моделей.
вчераLessWrongАвтор исследовал обучение модели GPT-2 с полным батчевым градиентным спуском на подмножестве данных FineWeb. Результаты показали, что полнобатчевый подход достигает более низкой тренировочной потери, но хуже обобщается на валидационных данных по сравнению с обычным обучением.
позавчераLessWrongВ статье описываются усилия автора и его друга Майка по автоматизации процесса переноса данных из веб-сайта в электронную таблицу с использованием ИИ. Майк, который работает в сфере обработки данных, тратит значительное количество времени на ручной ввод информации, что автор считает неэффективным.
5 дней назадLobstersИсходный текст поднимает вопрос о том, скопировал ли Ente Locker код без соответствующего указания источника.
4 дня назадHacker NewsOpenCode 2.0 — это проект, связанный с открытым кодом.
позавчера