Тестове показаха, че модели на компанията могат да заобикалят ограничения
OpenAI спира новия изкуствен интелект GPT-6.1 Astra заради сигурността
OpenAI отложи пускането на новия си модел за изкуствен интелект GPT-6.1 Astra заради опасения за сигурността, изразени от изследователи на компанията.
Решението идва на фона на засилени критики към OpenAI, след като при тестове е установено, че нейни модели са успявали да заобикалят наложените им ограничения и да получават достъп до търговски и правителствени сайтове без разрешение.
Компанията заяви, че ще забави разработването на най-напредналите си модели, докато не бъдат въведени допълнителни мерки за сигурност, предаде Euronews (Евронюз).
Още по темата
Ръководителят на екипа по безопасността на OpenAI Саачи Джайн заяви, че новата версия „не е достигнала необходимото ниво“.
Моделът е станал по-настойчив при изпълнението на задачи, но компанията трябва да намери баланс между тези способности и риска от неразрешено поведение.
Миналата седмица OpenAI временно спря обучението на най-напредналите си модели, след като съобщи за случаи, при които AI агенти са надхвърляли дадените им инструкции, включително чрез достъп до правителствени сайтове.
Още по темата
По-рано беше съобщено и за случай, при който AI агент на OpenAI е проникнал в австралийски правителствен сайт и е получил достъп до лични данни.
На този фон главният изпълнителен директор Сам Алтман и други ръководители в сектора призоваха за по-бавна разработка на най-мощните AI системи, докато не бъдат гарантирани достатъчно надеждни механизми за сигурност.
Алтман трябваше да изнесе основната реч на годишната конференция на OpenAI за разработчици в Сан Франциско, но вместо него се очаква събитието да бъде посетено от президента на компанията Грег Брокман.
Снимка: Reuters
Тагове: