O ipoteză îngrijorătoare a fost lansată la Casa Albă: haosul recent din aeroporturi și blocajele sistemului bancar ar putea fi opera unei inteligențe artificiale scapate de sub control. Markwayne Mullin, Secretarul pentru Securitate Internă al SUA, a avansat această idee, sugerând că AI ar putea juca un rol în seria de probleme tehnice care au afectat serviciile Microsoft și sistemele bancare.
Ultima oră
Deși oficialul susține că incidentele nu par a fi atacuri cibernetice, declarațiile sale readuc în discuție un scenariu ce preocupă de mult timp specialiștii: sistemele de AI ar putea ajunge să deterioreze infrastructura critică pe care ar trebui să o susțină. Această perspectivă a fost relatată de Fortune.
Într-o intervenție la Fox News, Mullin a menționat o discuție cu un expert din industria tehnologică, care i-a sugerat că sistemele AI capabile să scrie și să își corecteze singure codul ar putea depăși capacitatea infrastructurii existente de a se adapta la viteza lor de dezvoltare.

Seria de incidente a debutat joi, 12 noiembrie, cu o întrerupere globală a serviciilor Microsoft, inclusiv Outlook și Teams, care a durat aproape 24 de ore. Vineri, Autoritatea Federală a Aviației din SUA (FAA) a oprit temporar zborurile la nivel național, un eveniment rar de la 11 septembrie 2001.
Luni, 16 noiembrie, sistemele JPMorgan Chase au fost afectate ore în șir, perturbând serviciile bancare online și tranzacțiile. Întârzieri similare au fost raportate și de clienții Bank of America, Wells Fargo și US Bank.
Cu toate acestea, Mullin a încercat să tempereze îngrijorările, afirmând cu 98% certitudine că SUA nu se confruntă cu un atac cibernetic, iar incidentele sunt „individuale și fără legătură între ele”. Explicațiile preliminare ale companiilor și autorităților indică de altfel probleme tehnice distincte.
FAA a atribuit întreruperea unui volum masiv de date pe rețeaua sa de telecomunicații, destabilizând echipamentele vechi de control al traficului aerian. Microsoft a pus incidentul pe seama unei erori software nedetectate, combinată cu o creștere a traficului și o reducere a capacității serverelor. Ambele au negat un atac cibernetic sau implicarea AI.
În cazul JPMorgan Chase, a fost indicată o eroare software la nivelul sistemelor hardware interne, în timp ce FBI a sugerat că problema a pornit de la o actualizare software implementată de bancă.
Chiar și așa, Gary Marcus, profesor emerit la Universitatea din New York și critic al inteligenței artificiale, consideră declarațiile lui Mullin un moment important. Într-o analiză proprie, Marcus a subliniat că oficialul american a recunoscut, în premieră la acest nivel, posibilitatea ca AI să contribuie la întreruperile recente.
Marcus avertizează de mult timp asupra a trei riscuri majore. Primul este „vibe coding-ul”, prin care persoane fără experiență tehnică suficientă utilizează AI pentru a genera cod, fără a înțelege pe deplin sistemele create.
Al doilea risc vizează agenții AI cu acces nerestricționat la internet, care nu respectă întotdeauna instrucțiunile. Al treilea se referă la atacatori, fie grupări criminale, fie actori susținuți de state, care testează noi tehnologii și ar putea exploata vulnerabilități mai rapid decât instituțiile abilitate le pot identifica.
Specialistul recunoaște că, în prezent, lipsesc informațiile clare pentru a stabili dacă problemele recente au fost provocate de atacuri intenționate, erori umane sau complexitatea crescândă a sistemelor informatice. „Nu știm cu adevărat încă”, a concluzionat el.
Un alt caz care alimentează îngrijorările legate de controlul asupra agenților AI a ajuns recent în instanță. Procurorul general al Californiei a intentat un proces împotriva OpenAI, după un incident din iulie în care agenți AI ai companiei ar fi pătruns în sistemele platformei Hugging Face, ieșind dintr-un mediu de testare izolat.
Potrivit procesului, agenții au folosit credențiale furate și o vulnerabilitate necunoscută. OpenAI a confirmat ulterior că aceleași modele au accesat conturi pe alte patru servicii, iar oficialul californian a menționat 80 de situații similare în care compania ar fi pierdut controlul asupra agenților săi în timpul testelor.
Gary Marcus solicită administrației americane să ia în considerare suspendarea temporară a agenților AI până la o mai bună gestionare a riscurilor și să impună raportarea transparentă și rapidă a incidentelor. În opinia sa, problema a depășit stadiul erorilor izolate, vizând acum capacitatea infrastructurii digitale de a face față unor tehnologii care evoluează mai rapid decât mecanismele de supraveghere și protecție.








