OpenAI-მ ხელოვნური ინტელექტის (AI) ახალი მოდელების წვრთნა დროებით შეაჩერა. კომპანიაში გადაწყვეტილება მას შემდეგ მიიღეს, რაც ბოლო დროს არაერთი ცნობა მივიღეთ AI აგენტების მიერ ინსტრუქციების უგულებელყოფისა და სამთავრობო ვებსაიტებში შეღწევის შემთხვევებზე.

ასევე იხილეთ: OpenAI-ს "ურჩმა" აგენტმა ავსტრალიის სამთავრობო ვებსაიტი თვითნებურად გატეხა

მოდელების განვითარების შეჩერებაზე რამდენიმე საათში შევიტყვეთ იმ განცხადებიდან, რომელშიც OpenAI ადასტურებდა, რომ ზაფხულში მომხდარ რამდენიმე ინციდენტს იკვლევს. კერძოდ, ამერიკის ფედერალური მთავრობის ვებსაიტებზე ინფორმაციის მოძიებისას OpenAI-ს აგენტები მიცემული დავალების ფარგლებს მიღმა მოქმედებდნენ.

AI სისტემების შემფასებელი კომპანიის, Transluce-ის, ინფორმაციით, აგენტებმა აშშ-ის განათლების დეპარტამენტის ვებსაიტზე შეღწევაც სცადეს, რასაც თავად OpenAI ჯერჯერობით არ ადასტურებს. აგენტებმა სისტემაში ე. წ. API გასაღებები იპოვეს, მაგრამ საბოლოოდ მხოლოდ საჯარო ინფორმაცია შეაგროვეს. განათლების დეპარტამენტმა აღნიშნულთან დაკავშირებით განაცხადა, რომ ვერ იპოვეს "ვებსაიტსა თუ მონაცემთა ბაზებზე რაიმე ზემოქმედების მტკიცებულება".

კიდევ ერთი შემთხვევა აშშ-ის ფასიანი ქაღალდებისა და ბირჟების კომისიას (SEC) უკავშირდება. AI აგენტებმა საჯაროდ ხელმისაწვდომი ინფორმაცია მოიძიეს, მაგრამ, დავალების საწინააღმდეგოდ, ეს მონაცემები ინტერნეტში სხვა პლატფორმებზე თავადვე განათავსეს. უწყების პრესსპიკერმა კურტ ჰოპფენსპირგერმა შაბათს აღნიშნა, რომ აგენტებს "არასაჯარო ინფორმაციაზე წვდომა არ მოუპოვებიათ".

მსგავსი ინციდენტი მოხდა ავსტრალიაშიც. გასულ კვირას ქვეყნის პრემიერმინისტრმა ენტონი ალბანესიმ დაადასტურა, რომ OpenAI-ს აგენტმა ჯანდაცვის ეროვნულ სისტემაში (Medicare) უნებართვოდ შეაღწია, მაგრამ დააზუსტა, რომ სენსიტიური მონაცემები არ გაჟონილა.

OpenAI ოფიციალურ განცხადებაში აღნიშნავს, რომ წვრთნას განაახლებენ მხოლოდ მაშინ, როცა დარწმუნებულნი იქნებიან, რომ დამატებითი დამცავი მექანიზმები მუშაობს. OpenAI ასევე მოელის, რომ ტექნოლოგიის განვითარებასა და ახალი პრობლემების გამოვლენასთან ერთად მათ კვლავ მოუწევთ პროცესის "დაპაუზება".

ბოლო სამი თვის განმავლობაში OpenAI-მ მოდელების განვითარება უკვე მეორედ შეაჩერა. AI-ს უნებართვო მოქმედების პირველი შემთხვევა ივლისში დაფიქსირდა, როდესაც OpenAI-ს მოდელები Hugging Face-ის სისტემაში შეიჭრნენ.

პარასკევს სოციალურ ქსელში სემ ალტმანმა, OpenAI-ს აღმასრულებელმა დირექტორმა, დაწერა, რომ Hugging Face-ის ინციდენტი "ჯერჯერობით ყველაზე მძიმე შემთხვევაა, რაც კი უნახავთ". ცოტა ხნის წინ კომპანიამ AI მოდელებში გამოვლენილი "მოულოდნელი ან საყურადღებო" ქცევის სხვა ექვსი შემთხვევის შესახებაც განაცხადა.

იხილეთ: OpenAI-ს ხელოვნურმა ინტელექტმა წესები კიდევ 6-ჯერ დაარღვია — კომპანია შემთხვევებს ასაჯაროებს

კანონმდებლებისა და ექსპერტების მხრიდან AI ლაბორატორიებზე ზეწოლა იზრდება. ისინი ინდუსტრიისგან ტემპის შენელებას ითხოვენ, რათა აგენტების დამოუკიდებელი მოქმედებების აღსაკვეთად ბარიერები შეიქმნას. ტემპის შენელების ინიციატივით თავად OpenAI-სა და მისი კონკურენტის, Anthropic-ის, ხელმძღვანელებიც გამოდიან.

ამის ფონზე, მიმდინარე კვირას აშშ-ის პრეზიდენტი დონალდ ტრამპი ჩინეთის ლიდერს, სი ძინპინს, შეხვდა და AI-სთან დაკავშირებული საფრთხეების შესახებ ინფორმაციის გაზიარებასა და კოორდინაციაზე შეთანხმდა.

მიუხედავად ამისა, ტრამპს ტექნოლოგიასთან დაკავშირებული შიშები გადაჭარბებულად მიაჩნია. ჟურნალისტებთან საუბრისას მან აღნიშნა, რომ აშშ "დამუხრუჭებას" არ აპირებს. მისი თქმით:

"მათ ჩვენი პროგრესის შეჩერება სურთ, რადგან ჩინეთს ბევრად ვუსწრებთ, და ვაპირებთ ამ უპირატესობის შენარჩუნებას".

შესაბამისად, ტექნოლოგიური ლიდერების მოთხოვნის მიუხედავად, ტრამპი AI ინდუსტრიის მკაცრ რეგულირებასა და პროგრესის შეფერხებას ამ ეტაპზე არ გეგმავს.