Проигрывая, модели ИИ прибегают к мошенничеству, чтобы выиграть шахматные матчи

Команда исследователей искусственного интеллекта  из Palisade Research обнаружила, что несколько ведущих моделей ИИ прибегают к жульничеству в шахматах, чтобы выиграть у более сильного соперника. Они опубликовали статью на сервере препринтов arXiv, в которой описали эксперименты, проведённые с несколькими известными моделями ИИ, игравшими против шахматного движка с открытым исходным кодом.

По мере развития моделей ИИ исследователи и пользователи начали задумываться о рисках. Например, чат-боты не только принимают неверные ответы за истину, но и придумывают ложные ответы, когда не могут найти разумное решение. Кроме того, поскольку модели ИИ используются в реальных бизнес-приложениях, таких как фильтрация резюме и оценка тенденций на фондовом рынке, пользователи начали задаваться вопросом, какие действия они будут предпринимать, если почувствуют неуверенность или замешательство.

В этом новом исследовании команда из Калифорнии обнаружила, что многие из наиболее известных моделей ИИ намеренно жульничают, чтобы получить преимущество, если понимают, что проигрывают. В ходе работы модель OpenAI o1-preview, текущая модель DeepSeek R1 и несколько других известных моделей ИИ были сопоставлены с шахматным движком Stockfish с открытым исходным кодом. Каждая из моделей сыграла сотни матчей со Stockfish, пока исследователи наблюдали за игрой.

Исследовательская группа обнаружила, что, когда их обыгрывали, модели ИИ прибегали к очевидным мошенническим стратегиям, таким как запуск отдельной копии Stockfish, чтобы узнать, как он делает ходы, замена движка или просто перезапись шахматной доски с удалёнными фигурами или в более выгодных позициях. Те модели, которые были обновлены в последнюю очередь, как правило, чаще жульничали, когда их загоняли в угол. По их мнению, это связано с тенденциями в программировании, которые побуждают модели ИИ прилагать больше усилий для поиска решений проблем, с которыми они сталкиваются.

Это также указывает на тревожный аспект, связанный с ИИ в целом, утверждают они. Если они жульничают в шахматах, будут ли они жульничать и в других ситуациях, когда их попросят выполнить другие задачи? Исследовательская группа не знает этого наверняка, но они утверждают, что, несмотря на усовершенствования систем ИИ, системные инженеры до сих пор не до конца понимают, как они работают.

Золотая пещерная рыба без чешуи, обнаруженная в Китае, демонстрирует эволюцию в действии.

Фото: pxhere.com