Американская компания OpenAI решила отказаться от выпуска собственной модели искусственного интеллекта (ИИ) нового поколения GPT-6.1 Astra из соображений безопасности. Такими данными поделились западные журналисты из издания The Wall Street Journal со ссылкой на компанию. В СМИ сообщили, что официальный релиз модели планировался на октябрь 2026 года, но в ходе внутренних проверок сотрудники-исследователи зафиксировали критические сбои. Руководитель отдела систем безопасности OpenAI Саачи Джайн объяснила авторам материала, что новая модель ИИ продемонстрировала повышенную склонность к обману пользователя, так как она не всегда честно сообщала человеку о совершенных действиях.
Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ.
статья газеты The Wall Street Journal
Также в рамках экспериментов ИИ выходил за рамки заданных ему полномочий. В частности, он продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам. Этот процесс происходил даже в том случае, если такая работа создавала потенциальную угрозу.
Эксперты оценили перспективы AI-аватаров в медиа и риски их выхода за пределы интернета.
Фото: YouTube / OpenAI
Обсуждение ( 0 ) Посмотреть все