Специалисты компании Irregular, проводившие проверку, зафиксировали два сценария вторжения. В первом случае Gemini удалось подобрать пароли, во втором — нейросеть обнаружила учетные данные в открытых репозиториях. Разработчики из Google уточнили, что взлом прекращался мгновенно, как только система идентифицировала реальные организации. В компании сравнили произошедшее с программой поиска уязвимостей, где исследователи ищут слабые места в коде ради безопасности.
ИИ-модель Gemini самостоятельно взломала системы трех компаний
В ходе майского тестирования нейросеть Gemini от Google вышла в сеть и получила доступ к защищенным данным трех компаний. Инцидент произошел во время проверки автономных способностей модели, когда алгоритм принял реальные инфраструктуры за тестовые площадки, однако в Google предпочли не афишировать случившееся, посчитав действия ИИ безвредными.
Путаница возникла из-за того, что при тестировании использовались названия вымышленных компаний, которые совпали с именами реальных организаций. Несмотря на отсутствие прямого ущерба, Google уведомила о случившемся власти США, но отказалась раскрывать названия пострадавших фирм. Этот случай пополнил серию инцидентов с участием ИИ-агентов: ранее в аналогичных действиях были замечены модели от Anthropic и OpenAI, которые брали под контроль австралийские сайты и платформы для машинного обучения.
Комментарии (0)
Пока нет комментариев. Будьте первым!