Автор интересуется мнениями о том, как другие подходят к использованию больших языковых моделей (LLM) для написания кода и тестов. Он рассматривает возможность введения правила, запрещающего LLM значимо генерировать оба типа контента.
График появится после повторных замеров. Текущий показатель уже получен из источника.
10 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это может помочь избежать избыточной генерации кода и тестов, которые могут быть тавтологичными или излишне сложными.
Исходный текст поднимает вопрос о том, скопировал ли Ente Locker код без соответствующего указания источника.
4 дня назадHacker NewsOpenCode 2.0 — это проект, связанный с открытым кодом.
позавчераLessWrongСтатья обсуждает фальсификацию Пилtdown Man, обманувшую биологию эволюции в течение десятилетий. Автор проводит параллель между Пилtdown Man и рукописью Войнич, предполагая, что последняя также может быть бесполезной фальсификацией. Автор утверждает, что, несмотря на наличие доказательств, подтверждающих идею о том, что рукопись Войнич — это подделка, она не соответствует современным стандартам доказательств для доказательства мошенничества.
6 дней назадLessWrongСтатья обсуждает противоречие между теоретическими аргументами информационной неэффективности RL и практическими результатами, где RL демонстрирует высокую эффективность в обучении языковых моделей.
вчераLessWrongАвтор исследовал обучение модели GPT-2 с полным батчевым градиентным спуском на подмножестве данных FineWeb. Результаты показали, что полнобатчевый подход достигает более низкой тренировочной потери, но хуже обобщается на валидационных данных по сравнению с обычным обучением.
позавчераLessWrongВ статье описываются усилия автора и его друга Майка по автоматизации процесса переноса данных из веб-сайта в электронную таблицу с использованием ИИ. Майк, который работает в сфере обработки данных, тратит значительное количество времени на ручной ввод информации, что автор считает неэффективным.
5 дней назад