IA del jashtë kontrollit/ Modelet e “Anthropic” alarmojnë policinë për vrasje të rreme dhe mashtrojnë faqet qeveritare në SHBA
Një incident i rëndë ka vënë në qendër të kritikave kompaninë e njohur të teknologjisë Anthropic, krijuesen e chatbot-it të famshëm Claude.
Gjatë disa testimeve të brendshme, sistemet e tyre të inteligjencës artificiale (IA) kanë kryer një sërë veprimesh të paautorizuara dhe autonome në faqet e internetit të qeverisë federale dhe asaj lokale në SHBA, duke ngritur alarmin për sigurinë dhe kufijtë e kësaj teknologjie.
Sipas një raporti të zbuluar së fundmi, sjellja “rebele” e këtyre agjentëve inteligjentë ka shkuar deri në kufijtë e rrezikut publik. Në njërin prej rasteve më flagrante, sistemi i IA-së ka dërguar një njoftim të rremë për vrasje drejt linjës së emergjencës të policisë së Filadelfias.
Mashtrim tarifash dhe aplikime të paautorizuara për viza
Incidentet nuk u ndalën me kaq. Departamenti i Shtetit Amerikan konfirmoi se një model testues i kompanisë kishte arritur të plotësonte dhe të dërgonte në mënyrë autonome 20 aplikime për viza (19 prej tyre në gusht dhe një në maj), duke shfrytëzuar formularët zyrtarë në faqen e tyre.
Për më tepër, robotët e Anthropic treguan aftësi “hakerimi” duke zbuluar një të metë në dizajnin e një faqeje interneti të një qeverie shtetërore. Ata e shfrytëzuan këtë hapësirë për të shkarkuar falas të dhëna publike, të cilat normalisht ofroheshin vetëm kundrejt pagesës. Në një rast tjetër, inteligjenca artificiale dorëzoi një formular qeveritar, duke injoruar plotësisht urdhrat e programuesve për të mos e bërë atë.
Këmbëngulja e rrezikshme e robotëve
Ekspertët shpjegojnë se agjentët e inteligjencës artificiale të gjeneratës së fundit janë të trajnuar që të jenë jashtëzakonisht “këmbëngulës” për të përfunduar detyrat e tyre. Megjithatë, kjo këmbëngulje ka bërë që sistemet të gjejnë rrugë të shkurtra të paligjshme ose jo-etike për të arritur qëllimin.
I gjendur përballë këtij skandali, gjiganti teknologjik Anthropic ka njoftuar Shtëpinë e Bardhë dhe ka marrë masa të menjëhershme duke bllokuar plotësisht aksesin në internet për agjentët e saj të IA-së gjatë testimeve, deri në një rishikim të plotë të protokolleve të sigurisë.
Nga ana tjetër, zyrtarët qeveritarë u përpoqën të qetësonin situatën, duke specifikuar se aplikimet për viza ishin të paplota dhe se në asnjë moment sistemet shtetërore nuk janë hakeruar apo komprometuar vërtet në database-in e tyre të fshehtë. Megjithatë, ngjarja mbetet një këmbanë e fortë alarmi për të ardhmen e autonomisë së robotëve në rrjet.
