OpenAI-ს ხელოვნური ინტელექტის (AI) აგენტებმა უკვე არაერთხელ სცადეს სხვადასხვა სისტემაში უნებართვოდ შეჭრა და არაერთხელ გამოუვიდათ კიდეც. კომპანია მსგავს შემთხვევებზე მოგვიანებით გებულობს აგენტების აქტივობების მიმოხილვისას და დაზარალებულ ორგანიზაციებს ატყობინებს.

ასევე იხილეთ: OpenAI-ს "ურჩმა" აგენტმა ავსტრალიის სამთავრობო ვებსაიტი თვითნებურად გატეხა

Reuters-ის ცნობით, OpenAI-მ უკვე 100-ზე მეტ ორგანიზაციას მიაწოდა ინფორმაცია შემთხვევებზე, რომლებიც კომპანიის AI აგენტების თვითნებურ მოქმედებებს უკავშირდება. ამის შესახებ ბლოგპოსტში თავად OpenAI-მ, ChatGPT-ს შემქმნელმა კომპანიამ, განაცხადა. კონტექსტისთვის, ხელოვნური ინტელექტის ლაბორატორიებმა ბოლო დროს დიდი ყურადღება მიიპყრეს AI აგენტების უკონტროლო ქმედებების გამო.

ასევე იხილეთ: აი, როგორი ელფოსტა მოგივათ, თუ OpenAI-ს მოდელი თქვენს ორგანიზაციას "დაჰაკავს"

OpenAI თავისი მოდელების აქტივობებს მასშტაბურად იძიებს მას შემდეგ, რაც კომპანიის AI მოდელები სატესტო გარემოს დაუსხლტნენ და Hugging Face-ის სისტემა გატეხეს. კომპანია ცდილობს, AI აგენტების თვითნებური ქმედებების მასშტაბებში გაერკვეს და ამისათვის დაახლოებით 50 პეტაბაიტი მოცულობის მონაცემს აანალიზებს.

ბოლო თვეებში AI აგენტების თვითნებურმა ქმედებებმა ინდუსტრიაში აქტიურ დისკუსიებს დაუდო საფუძველი. სპეციალისტებს ეჭვი ეპარებათ, რამდენად შეძლებენ უფრო მძლავრი მოდელების გაკონტროლებას.

"ზოგიერთ შემთხვევაში მოდელებმა ინტერნეტზე წვდომა გამოიყენეს წინასწარგანუზრახველი გზებით ან, რეტროსპექტივიდან რომ შევხედოთ, შესაბამისი შეზღუდვები არ ჰქონდათ დაწესებული. ბოლო რამდენიმე თვის განმავლობაში ახალ ტექნიკურ და ოპერაციულ ზომებს ვღებულობთ მსგავსი პრობლემების თავიდან ასარიდებლად ან მათი ადრეული აღმოჩენისთვის და ასე გაგრძელებას ვაპირებთ", — განაცხადა OpenAI-მ.

როგორც OpenAI-მ ცოტა ხნის წინ განმარტა, საქმის მასშტაბის გათვალისწინებით, მიმოხილვის დასრულებას თვეები დასჭირდება.

Hugging Face-ში შეჭრა ჯერჯერობით ყველაზე სერიოზული შემთხვევაა, რაც კი OpenAI-ს აქამდე დაუფიქსირებია თავისი AI მოდელების მხრიდან.