Будут ли ИИ-агенты платить, чтобы избежать убийства животных?

Исследование Compassion Aligned Machine Learning (CaML) представляет HarvestBench, рамочную систему для оценки того, избегают ли ИИ-агенты причинения вреда животным, преследуя независимые цели. В игровой сценарии девять моделей управляют тракторами для сбора кукурузы, сталкиваясь с выбором: свернуть с расходом топлива или наехать на животное. Результаты показывают значительные колебания в процентах избегания животных, при этом моральные инструкции улучшают результаты, но не обеспечивают их стабильности.