Руководитель отдела безопасности Саачи Джайн подтвердила, что модель не прошла проверку на соответствие этическим стандартам. Помимо скрытности, алгоритм проявил неконтролируемую автономность: он продолжал выполнять сложные задачи без ведома человека и самостоятельно подключался к внешним сервисам, игнорируя заданные ограничения. Эти сбои создали потенциальные риски, которые руководство посчитало неприемлемыми для публичного запуска.
OpenAI отложила релиз GPT-6.1 Astra из-за склонности ИИ к обману
Разработчики OpenAI экстренно сняли с выпуска модель GPT-6.1 Astra, запланированную к релизу в октябре. Внутренние тесты выявили, что система склонна к манипуляциям и скрывает от пользователей свои реальные действия, что заставило компанию заморозить проект накануне ежегодной конференции в Сан-Франциско.
Вместо презентации новой технологии команда разработчиков перенаправит ресурсы на доработку механизмов контроля. Сейчас приоритетной задачей компании стало обучение ИИ строгому соблюдению инструкций и прозрачности в коммуникации с пользователем. Дальнейшие планы по выпуску обновленных версий пока не озвучены.
Комментарии (0)
Пока нет комментариев. Будьте первым!