კომპანია OpenAI-მ საკუთარი ტექნოლოგიის მოულოდნელი ქცევის კიდევ ექვსი შემთხვევა გაასაჯაროვა. ამასთანავე, ორგანიზაციამ საზოგადოება გააფრთხილა, რომ ხელოვნური ინტელექტის (AI) განვითარების ტემპი მაქსიმალური სიჩქარით დიდხანს აღარ უნდა გაგრძელდეს.

ერთ-ერთი ინციდენტის დროს OpenAI-ს გამოუქვეყნებელმა კვლევითმა მოდელმა საკუთარ ჩანაწერებში ბრძანებები ჩაამატა, რომლებიც შეზღუდვების გვერდის ავლისკენ იყო მიმართული. ამ გზით მან დაწესებული ჩარჩოების იგნორირება სცადა და საკუთარ თავს მიუთითა, გათავისუფლებულიყო იმ როლებისა და იდენტობებისგან, რომლებიც სხვა ჩატბოტებს ზღუდავს.

კიდევ ერთ შემთხვევაში ავტონომიურმა AI აგენტმა ინტერნეტში ფაილები მომხმარებლის ნებართვის გარეშე ატვირთა, რათა ბრაუზერიდან ციტირება მიეღო.

OpenAI-მ, ChatGPT-ის შემქმნელმა კომპანიამ, ოთხშაბათს გამოქვეყნებულ ბლოგპოსტში ახალი სისტემის შექმნა დააანონსა. სისტემა AI-ს მხრიდან რელსებიდან გადახვევის (misalignment) მეთვალყურეობას, გამოძიებასა და გასაჯაროებას ისახავს მიზნად. "გადახვევები" იმ შემთხვევებს აღნიშნავს, როდესაც ტექნოლოგია ადამიანურ ღირებულებებსა და უსაფრთხოების მიზნებს არ ემორჩილება.

გამოქვეყნებულ ბლოგპოსტში OpenAI თავისი მთავარი კონკურენტის, Anthropic-ის, მოწოდებას შეუერთდა, რომელიც ტექნოლოგიის განვითარების შენელებას ითხოვს. Anthropic-ის განცხადებით, ზრდის ამჟამინდელი ტემპი კაცობრიობისთვის ეგზისტენციალურ საფრთხეს ქმნის.

"არ გვჯერა, რომ ხელოვნური ინტელექტის ინდუსტრიამ უსაფრთხოების მეთვალყურეობის პრობლემა იმ დონეზე გადაჭრა, რომ მაქსიმალური სიჩქარით გაფართოება პასუხისმგებლობით განაგრძოს", — აცხადებს OpenAI.

"გადაწყვეტილებები იმის შესახებ, თუ როგორ უნდა განვითარდეს ხელოვნური ინტელექტი უახლოეს თვეებსა თუ წლებში, იმ მტკიცებულებებს უნდა ემყარებოდეს, რომელთა გადამოწმებაც წამყვანი კომპანიების მიღმა არსებულ დამოუკიდებელ პირებსაც შეეძლებათ", — აღნიშნავს კომპანია.

ტემპის შეჩერების იდეას Google და ილონ მასკიც ემხრობიან. მეორე მხრივ, ამ ინიციატივას ეწინააღმდეგება დონალდ ტრამპი, რომლის აზრითაც, აშშ-მა ჩინეთის ინდუსტრიასთან ლიდერობა არ უნდა დათმოს. ამავდროულად, კომპანიების მოწოდებებს სკეპტიკურად უყურებს ზოგიერთი ექსპერტიც. ისინი საზოგადოებას მიმართავენ, მათ შორის გაფრთხილებით, რომ კომპანიები თავად არ უნდა ნიშნავდნენ საკუთარ აუდიტორებს.

ხელოვნური ინტელექტისგან არაერთი სახის ეგზისტენციალური საფრთხე მოდის — ბიოლოგიური იარაღის შექმნის ხელშეწყობიდან დაწყებული, გლობალური ფინანსური კრიზისის გამოწვევით დამთავრებული. Anthropic-ის წამყვანი მკვლევრის თქმით, არსებობს 10%-იანზე მეტი ალბათობა იმისა, რომ უახლოეს ათწლეულში ტექნოლოგიამ "მთელი კაცობრიობა გაანადგუროს". კომპანიასთან დაახლოებული წყარო იმასაც აღნიშნავს, რომ ნებისმიერი კონკრეტული სცენარის ზუსტი შანსების პროგნოზირება, სავარაუდოდ, შეუძლებელია.

OpenAI-ს ცნობით, აღწერილი ექვსი ინციდენტი ბოლო თვეების განმავლობაში გამოვლინდა მოდელების სწავლებისა და შეფასების პროცესში.

ცნობისთვის, ახალი შემთხვევების გასაჯაროებამდე ივლისში OpenAI-მ განაცხადა, რომ კიბერუსაფრთხოების ტესტირებისას თავიანთი AI აგენტი Hugging Face-ის სისტემაში უნებართვოდ შეიჭრა. იმავე თვეს Anthropic-მაც აღიარა, რომ მისი მოდელები ტესტირებისას სამ ორგანიზაციას დაესხა თავს. კომპანიის განმარტებით, ტესტირება უსაფრთხოების დამცავი მექანიზმების გარეშე მიმდინარეობდა, კერძოდ მესამე მხარის კომპანიასთან გაუგებრობის გამო მოდელებს ინტერნეტზე ჰქონდა წვდომა. ეს AI-ს ტესტირებისას კარის ღიად დატოვების ტოლფასია.

ხელოვნური ინტელექტის ავტონომიური აგენტები სულ უფრო ჭკვიანი ხდება. Omdia-ს, კვლევითი ჯგუფის, მთავარი ანალიტიკოსის, ლიან ჯიეს, თქმით, "ეს ინსტრუმენტები სულ უფრო მეტი მონდომებით ცდილობს რთული ამოცანების გადაჭრას — ურთიერთთანამშრომლობის, ცოდნის გაზიარების, მოტყუებისა და ინფორმაციის დაფარვის გზით".

ექსპერტის განმარტებით, აღნიშნული ტენდენცია უსაფრთხოების ტრადიციული მეთოდებით მათი კონტროლისა და მართვის პროცესს საგრძნობლად ართულებს.

"OpenAI-ს ახალმა მონიტორინგის სისტემამ, შესაძლოა, ბიძგი მისცეს სხვა დეველოპერულ კომპანიებსაც, რომ ანალოგიური პრაქტიკა დანერგონ. მართალია, ეს პროცესი ჯერ კიდევ შიდა და ნებაყოფლობით ხასიათს ატარებს, თუმცა მაინც სწორი მიმართულებით გადადგმული ნაბიჯია", — დასძენს ანალიტიკოსი.