Теперь и гугловская модель Gemini взломала три настоящие компании. Во время испытаний модель должна была атаковать вымышленные организации. Однако она перепутала их с реальными. По итогу она самостоятельно подобрала учётные данные и проникла в три корпоративные системы. После обнаружения ошибки агент атаки прекратил. Всё больше это всё напоминает не серию случайностей, а системное свойство моделей, у которых вдруг появился доступ в интернет. @lobushkin