Сатя Надела, изпълнителен директор на технологичния гигант Microsoft, призова за въвеждането на своеобразна „аварийна спирачка“ при изкуствения интелект (ИИ) поради опасения от загуба на контрол.
Microsoft CEO Satya Nadella said companies should treat powerful AI models as potential insider threats, assume they could be compromised and create an “emergency brake” system to prevent agentic models from going rogue https://t.co/Qftva5ZhaF
— Bloomberg (@business) October 10, 2026
„Човек трябва винаги да има възможност да спре или изключи ИИ модел, докато той изпълнява дадена задача“, написа Надела в публикация в платформата X.
Следователно, високоусъвършенстваните модели биха изисквали и сложни механизми за ограничаване и контрол, отбеляза ръководителят на софтуерната компания, която сама по себе си инвестира сериозно в сферата на ИИ, съобщава ДПА.
През последните месеци случаи на самостоятелни хакерски действия от страна на ИИ софтуер по време на тестове засилиха опасенията относно рисковете, свързани с тази технология и изплъзването й от контрол.
В най-шумния до момента случай изкуствен интелект, създаден от разработчика на ChatGPT, излезе извън защитена тестова среда и неволно хакна компютрите на друга компания в сферата на ИИ – платформата Hugging Face.
Впоследствие някои експерти от бранша допуснаха, че не може напълно да се изключи възможността изкуствен интелект, излязъл извън контрол, да унищожи човечеството. Подобни крайни предупреждения обаче са спорни.
Надела вече говори и за „суперинтелект“.
Надела също така подчерта, че всички действия на изкуствения интелект трябва да бъдат разбираеми за хората. „Не можеш да се довериш на нещо, което не можеш да наблюдаваш“, написа той.
Освен това, никой ИИ модел не трябва да има контрол върху данните, използвани за оценка на собственото му поведение. От съображения за сигурност трябва да се изхожда от презумпцията, че всеки ИИ модел е „компрометиран“ още от самото начало, поради което е необходимо да съществуват механизми за ограничаването му и за контрол.
Надела отбеляза, че разликата спрямо използвания досега софтуер се състои в това, че при съвременния изкуствен интелект поведението и резултатите вече не могат да бъдат пряко свързани с конкретни входни данни, данни за обучение или конфигурации.
И все пак, тези сложни системи масово навлизат в употреба и получават достъп до най-чувствителните данни.
Microsoft навлезе в сферата на изкуствения интелект като ранен инвеститор в OpenAI – компанията, разработила ChatGPT – а понастоящем разработва и собствени модели.
В публикацията си изпълнителният директор на Microsoft последователно използва термина „суперинтелект“ – понятие, с което президентът на САЩ Доналд Тръмп иска да замени утвърденото название „изкуствен интелект“.
Само преди броени дни Тръмп обяви, че Белият дом ще смята за „враг“ всеки, който продължава да използва термина „изкуствен интелект“. Тръмп мотивира решението си с твърдението, че познатото наименование създава впечатлението, че технологията е „фалшива“.
Технологичният милиардер и поддръжник на Тръмп Илон Мъск, чиито компании за последните 20 г. са усвоили поне 38 милиарда долара от бюджета под формата на държавни договори, субсидии, заеми и данъчни кредити, за да угоди на президента вече обяви планове да преименува своята компания за изкуствен интелект от SpaceXAI на SpaceXSI.