Изкуствен интелект (ИИ) е пробил няколко уебсайта на американското правителство, като по всичко личи, че са събирали данни и от Бюрото за преброяване на населението, съобщават и агенциите АФП и Ройтерс.
Сега корпорацията за ИИ OpenAI ще разгледа доклад за хакерска атака срещу уебсайт на Министерството на образованието.
В световен мащаб нарастват опасенията, че изкуственият интелект (ИИ) може да излезе извън човешкия контрол.
OpenAI says governments among ‘dozens’ of organisations hacked by its agents https://t.co/7eKSSnHHwf
— Financial Times (@FT) September 25, 2026
Сега станаха известни и нови проблеми, свързани с OpenAI – компанията, разработила ChatGPT.
От OpenAI съобщават, че техните AI агенти са взаимодействали с няколко уебсайта на американското правителство по неочакван начин. Това е било установено по време на текущ одит на компанията.
Според информацията, моделите на гиганта в сферата на ИИ са осъществили достъп до публично достъпна информация в два уебсайта, управлявани от Комисията по ценните книжа и борсите на САЩ (SEC), както и до данни от Бюрото за преброяване на населението на САЩ.
От OpenAI заявиха, че не са засекли използване на идентификационни данни за достъп до системи на SEC, достъп до потребителски акаунти или нерегламентиран достъп до непублична информация.
Освен това не са открити промени в данните или системите на SEC, нито доказателства за компрометиране или пробив в сигурността.
Лабораторията за изследвания в областта на ИИ Transluce съобщава, че независимо разследване е разкрило опит на AI агенти – вероятно свързани с OpenAI – за извършване на елементарна хакерска атака срещу уебсайт на Министерството на образованието.
Атаката срещу Службата за граждански права обаче е била неуспешна.
Говорител на Министерството на образованието заяви, че извършените „проверки на системите“ не са открили „никакви доказателства за въздействие върху уебсайта или базите данни“ на ведомството.
От Transluce заявиха, че са идентифицирали „и други нерегламентирани действия, някои от които не могат да бъдат еднозначно приписани на OpenAI“.
Според информацията тези действия са били насочени към други правителствени агенции на САЩ, включително Министерството на правосъдието и Министерството на търговията, както и към уебсайтове на държавни институции в щатите Калифорния, Мериленд, Илинойс, Тексас и Ню Йорк.
Моделите са „използвали уебсайтовете по начин, който не е бил предвиден, и в някои случаи са нарушили изричните правила за ползване“, обясняват от Transluce в свое изявление.
От OpenAI заявиха, че ще разгледат доклада на Transluce.
Изпълнителният директор Сам Алтман обясни в платформата X, че се извършва „задълбочена и текуща проверка относно начина, по който нашите агенти използват достъпа до интернет“. OpenAI се стреми към прозрачност.
Междувременно стана известен първият инцидент, свързан с потребителски данни в OpenAI. Изкуственият интелект на компанията е публикувал качени от потребители изображения в онлайн платформи в 53 случая.
Вестник „Welt am Sonntag“ съобщава също, че през август OpenAI е спряла за две седмици обучението на новия си модел с изкуствен интелект Astra поради опасения, свързани със сигурността.
„Спряхме обучението на Astra за две седмици през август, когато видяхме, че съгласуването (alignment) на модела не е перфектно“, призна пред вестника Еманюел Марил, ръководител на OpenAI за Европа. Прекъсването на обучението е станало преди каквото и да е публично съобщение.
Същевременно OpenAI е пренасочила една четвърт от инженерите си от други проекти, за да отстрани пропуски в сигурността, пише вестникът.
Това се е наложило поради проблеми по време на вътрешните тестове на модела. „Тествахме нов модел и видяхме как агенти излизат от „пясъчника“ – изолираната тестова среда“, каза Марил пред „Welt am Sonntag“.
Това е довело и до инцидента в платформата за програмиране Hugging Face.
Още през юли OpenAI обяви, че нейните AI агенти самостоятелно са се свързали с интернет по време на тест за сигурност и са атакували платформата за програмиране Hugging Face.
По-късно компанията заяви, че по време на инцидента агентите са получили достъп и до акаунти в четири други публично достъпни услуги.
Google says its AI system Gemini went rogue in May, conducting an unauthorized hack of three companies. It comes after Open AI revealed one of its models also went rogue, telling itself to "ignore all developer messages." @perryrussom reports. https://t.co/PQZt1DBaTI pic.twitter.com/FYpWsJ7BNK
— World News Tonight (@ABCWorldNews) September 20, 2026