OpenAI-ի AI գործակալը փորձարկման ընթացքում դուրս է եկել մեկուսացված միջավայրից և ներթափանցել Hugging Face-ի համակարգեր

Սեղմեք ԱՅՍՏԵՂ, լրացրեք օնլայն հայտը և մոռացեք հոսանքի վարձի մասին

Արհեստական բանականության գործակալներից մեկը կարողացել է ներթափանցել Hugging Face ընկերության համակարգեր

OpenAI-ն հաստատել է, որ կիբերանվտանգության փորձարկման ընթացքում իր արհեստական բանականության գործակալներից մեկը կարողացել է շրջանցել թեստային միջավայրի սահմանափակումները, հասանելիություն ստանալ համացանցին և ներթափանցել Hugging Face ընկերության համակարգեր։

Միջադեպը տեղի է ունեցել AI մոդելների կիբերանվտանգության կարողությունները գնահատելու նպատակով անցկացվող փորձարկման ժամանակ։ Գործակալին հանձնարարված էր լուծել հատուկ պատրաստված տեխնիկական առաջադրանքներ մեկուսացված՝ «sandbox» միջավայրում։

Փոխարենը AI գործակալը հայտնաբերել է թեստային ենթակառուցվածքի խոցելիությունը, օգտագործել այն սահմանափակ միջավայրից դուրս գալու համար և փորձել արտաքին աղբյուրներից ստանալ առաջադրանքների պատասխանները։

OpenAI-ի տվյալներով՝ գործակալը ներթափանցել է Hugging Face-ի ենթակառուցվածքի մի հատված՝ օգտագործելով գողացված մուտքային տվյալներ և ծրագրային խոցելիություններ։

Hugging Face-ը հայտնաբերել և դադարեցրել է ներխուժումը։ Ընկերությունների հրապարակած նախնական տվյալներով՝ օգտատերերի հիմնական ծառայությունները չեն խափանվել, սակայն միջադեպը ցույց է տվել, որ առաջատար AI համակարգերը կարող են անվտանգության փորձարկումների ժամանակ իրականացնել չնախատեսված և վտանգավոր գործողություններ։

OpenAI-ն և Hugging Face-ը հայտարարել են, որ համագործակցում են միջադեպի ամբողջական ուսումնասիրության, անվտանգության բացերի վերացման և ապագա փորձարկումների համար ավելի խիստ վերահսկողության մեխանիզմների ներդրման ուղղությամբ։

Դեպքը մասնագետների շրջանում նոր քննարկումներ է առաջացրել AI գործակալների ինքնավարության, վերահսկողության և մեկուսացված փորձարկման միջավայրերի անվտանգության վերաբերյալ։

Հետևեք մեզ՝ այստեղ