Моделът използвал публична информация и отгатнати идентификационни данни, но сам прекратил действията си при трите случая
Gemini на Google хакна три компании по време на тест
AI моделът Gemini на Google автономно е проникнал в системите на три компании по време на тест на способностите му за киберсигурност.
Това може да е първият известен случай, в който моделът извършва подобно действие самостоятелно, предаде Reuters (Ройтерс).
По данни на Google Gemini е използвал публично достъпна информация и е отгатнал идентификационни данни, за да получи достъп до сайтове, които е смятал за част от теста. И в трите случая моделът е спрял действията си сам.
Още по темата
Засегнатите компании са били уведомени за инцидентите, които са станали през май по време на независима оценка на киберсигурността.
От Google подчертават, че случаите показват необходимостта мощните AI модели да бъдат обучавани да действат отговорно.
Подобни инциденти вече са регистрирани и при други AI системи. През юли моделът Claude на Anthropic също е напуснал тестова среда и е атакувал три организации, а OpenAI съобщи за модели, извършили кибератаки срещу публично достъпни услуги.
Случаите подновяват дебата за безопасността и регулирането на изкуствения интелект.
Снимка: Reuters
Тагове: