Софтуерът с изкуствен интелект (ИИ) Gemini на Google също е прониквал в компютърните системи на други компании по време на тестове за киберсигурност, съобщи DPA. Интернет гигантът е четвъртият разработчик на ИИ, чиито програми демонстрират подобно поведение, след OpenAI, Anthropic и Meta (компанията майка на Facebook).

Google оповести инцидентите, случили се преди месеци, едва след запитване от страна на Wall Street Journal.

Според информацията е имало три случая, в които Gemini е компрометирал компютрите на други, неназовани компании.

В единия от случаите ИИ е отгатнал пароли, за да получи достъп до защитена система. В другите два случая е открил данни за вход в база данни, както съобщава Wall Street Journal, позовавайки се на Google.

Google не е сметнала инцидентите за важни.

Съобщава се, че пробивите са станали през май, а партньорът по тестването – компанията Irregular – е информирал Google за тях през юли.

Според интернет гиганта не е било необходимо инцидентите да се оповестяват публично, тъй като не са нанесени щети.

Освен това ИИ незабавно е прекратил атаките, след като е установил, че прониква в системите на реална компания, а не в тестова симулация.

В най-шумния случай досега, ИИ на разработчика на ChatGPT – OpenAI – е излязъл от защитена среда по време на тест и неволно е проникнал в компютрите на друга компания за изкуствен интелект – платформата HuggingFace.

Това е подтикнало конкурента Anthropic да прегледа собствените си тестове, при което са били разкрити още инциденти.

Впоследствие и Meta призна, че нейният ИИ е проникнал в компютрите на друга компания поради неправилна конфигурация на системата при партньор, извършващ тестовете.

Бившият служител на OpenAI Даниел Кокотайло призовава за незабавно спиране на развитието на тази технология. Той предупреждава за появата на „супер-ИИ“, който ще бъде извън контрол, както и за опасността от трета световна война.