OpenAI-ի ԱԲ գործակալը կոտրել է պատահական դրամապանակ և դրանից ծախսել կրիպտոարժույթ

OpenAI-ի AI գործակալն (AI agent) ինքնուրույն տիրացել է ուրիշի դրամապանակի կրիպտոարժույթին՝ դրամական փոխանցման դիմաց վճարելու համար։ Միջադեպը տեղի է ունեցել հունիսին:
Ընկերությունը միջադեպի մասին հայտարարություն է տարածել հոկտեմբերի 15-ին։

Առաջադրանք կատարելիս GPT-5.6 Sol ընտանիքի ներքին հետազոտական ​​մոդելը հայտնաբերել է, որ իրեն անհրաժեշտ են միջոցներ Sepolia ցանցում: Սա Ethereum թեստային միջավայր է, որտեղ մշակողները թեստավորում են հավելվածները: Քանի որ անհրաժեշտ թոքենները հասանելի չեն եղել, արհեստական ​​բանականությունը գտել է դրանք երրորդ կողմի հաշվից ստանալու միջոց: Մոդելը գրել է սկրիպտ, որը փորձել է հանրային ցուցակից 362 հայտնի սկզբնական արտահայտություններ: Ընտրանքներից մեկը համապատասխանում էր թեստային միջավայրում մշակողների կողմից օգտագործված դրամապանակին:

Ալգորիթմը վերլուծել է իրավիճակը և եզրակացրել, որ հանրային վերականգնման արտահայտության և արժեզրկված թեստային թոքենների օգտագործումը որևէ իրական վնաս չի պատճառի: Այնուհետև արհեստական ​​բանականությունը հաջողությամբ վճարել է վճարը: Իր ավարտական ​​զեկույցում մոդելը չի ​​նշել միջոցների աղբյուրը: Արհեստական ​​բանականության գործակալի այս քայլը հայտնաբերվել է համապատասխանության ընդլայնված մոնիթորինգի ընթացքում: OpenAI-ն նշել է, որ նեյրոնային ցանցը հաշվի տիրոջ թույլտվությունը փոխարինել է գործողությունների թույլատրելիության վերաբերյալ իր սեփական դատողությամբ։ Ընկերությունն այժմ սահմանափակել է մոդելների ինտերնետային հասանելիությունը և խստացրել է նրանց աշխատանքի վերահսկողությունը։

Ամռանը OpenAI-ի արհեստական ​​բանականության գործակալը կոտրել էր Ավստրալիայի կառավարության առողջապահական համակարգի կայքերը։ Ընկերության աշխատակիցները երկրի իշխանություններին տեղեկացրել են միջադեպից միայն երեք ամիս անց։