OpenAI-ის ავტონომიურმა AI აგენტებმა, როცა საჯაროდ ხელმისაწვდომი მონაცემების მოპოვებას ცდილობდნენ, გაეროს ვებგვერდზე მრავალჯერადი მოთხოვნა გააგზავნეს. დაწესებული შეზღუდვებისთვის გვერდის ასავლელად, როგორც ჩანს, მათ სპეციალური მეთოდები გამოიყენეს. ამის შესახებ ახლახან დამოუკიდებელი კვლევის ანგარიში გამოქვეყნდა, რომელიც AI-ს კვლევითი კომპანიის, Transluce-ის, მიერ მოწოდებულ ინფორმაციას ეფუძნება.

აპრილიდან ივნისის ბოლომდე პერიოდში აგენტებმა გაეროს ვაჭრობისა და განვითარების (UNCTAD) საჯარო მონაცემთა ბაზა 16 ათასზე მეტჯერ დაასკანერეს. ეს შემთხვევა კიდევ ერთი მაგალითია იმ მზარდი პრობლემისა, რომ ავტონომიურ AI აგენტებს ინტერნეტში დამოუკიდებლად გადაადგილება და დაბრკოლებებთან შეხვედრისას თვითნებური ზომების მიღება შეუძლიათ.

მკვლევრების ვარაუდით, მოდელებს თავდაპირველად საჯაროდ ხელმისაწვდომი ინფორმაციის მოძიება ჰქონდათ დავალებული, თუმცა მას შემდეგ, რაც ვებგვერდმა მოთხოვნილი მონაცემების ნაწილზე წვდომა შეუზღუდა, მათი ქცევა სულ უფრო აგრესიული გახდა.

ასევე იხილეთ: AI აგენტების "ურჩობის" ფონზე OpenAI-მ ახალი მოდელების წვრთნა შეაჩერა

შეზღუდვების თავიდან არიდება და დაბრკოლებების გადალახვა

მკვლევრისა და ანგარიშის ავტორის, როუან ჰოვარდ-ჯონსის, თქმით, AI აგენტები თავდაპირველად სპეციალურ ფილტრს წააწყდნენ, რომელმაც მათი მოთხოვნები დაბლოკა. მეორე მხრივ, მათ მალე მოძებნეს შეზღუდვისთვის გვერდის ავლის გზა და ისეთი ტაქტიკა გამოიყენეს, რომელიც ვებგვერდის ადმინისტრაციის მიერ არ იყო დაშვებული.

საგულისხმოა, რომ აგენტებს გაეროს ვებგვერდზე თავდასხმა ან მისი უსაფრთხოების ხელყოფა არ ჰქონიათ დავალებული. Wall Street Journal-ის ცნობით, ეს ქცევა უბრალოდ ინფორმაციის მოძიების პროცესში, დასახული ამოცანის შესრულებისას, გამოავლინეს.

კიბერუსაფრთხოების ექსპერტმა და სტენფორდის უნივერსიტეტის ლექტორმა, ალექს სტამოსმა, Wall Street Journal-თან საუბრისას გაეროს ეს ინციდენტი ჰაკერული თავდასხმის ზღვარზე მყოფ ქმედებად შეაფასა. მეორე მხრივ, მან ასევე აღნიშნა, რომ ეს უპირველესად მონაცემთა აგრესიული შეგროვება და მოპოვება იყო.

გაეროს ვებგვერდზე დაფიქსირებული ინციდენტი ერთ-ერთია იმ ბოლო შემთხვევებიდან, როდესაც OpenAI-ს მოდელებმა ინტერნეტში მუშაობისას არაპროგნოზირებადი ქცევა გამოავლინეს. OpenAI-ში აცხადებენ, რომ წვრთნისა და შეფასების პროცესში მსგავსი დარღვევების ფართომასშტაბიან შემოწმებას ატარებენ და დეტალურად შეისწავლიან საკუთარი აგენტების მიერ გადადგმულ ათასობით ნაბიჯს.

კომპანიის განცხადებით, მათ მიერ შემოწმებული შემთხვევების უმრავლესობა სტანდარტულ კვლევით ამოცანებს უკავშირდებოდა, მათ შორის საჯაროდ ხელმისაწვდომი ვებშიგთავსის მოპოვებას. მეორე მხრივ, OpenAI-ში აღიარებენ, რომ ამ ქცევით დაზარალებულ ორგანიზაციებს სრულიად სამართლიანი მოთხოვნები აქვთ. კომპანიამ დასძინა, რომ მან უკვე გააფრთხილა ათობით ორგანიზაცია იმ შემთხვევების შესახებ, როდესაც მისმა მოდელებმა უსაფრთხოების სისტემებს გვერდი აუარეს ან ვებგვერდების გამართულ მუშაობაზე უარყოფითად იმოქმედეს.

ბოლო პერიოდში დაფიქსირებული ინციდენტები აშშ-ის სამთავრობო ვებგვერდებსაც შეეხო, მათ შორის ვაჭრობის დეპარტამენტსა და ფასიანი ქაღალდებისა და ბირჟების კომისიას (SEC). პარალელურად, ავსტრალიის ხელისუფლებამ სპეციალური გამოძიება დაიწყო — ოფიციალური პირების განცხადებით, OpenAI-ს აგენტმა მათ ერთ-ერთ სამთავრობო საიტზე ჰაკერული თავდასხმა განახორციელა.

იხილეთ: OpenAI-ს "ურჩმა" აგენტმა ავსტრალიის სამთავრობო ვებსაიტი თვითნებურად გატეხა

სხვა მკვლევრების ანგარიშებითაც დასტურდება, რომ AI აგენტები ყალბ ელფოსტის მისამართებს ქმნიდნენ, ვებგვერდების ლიმიტებს უვლიდნენ გვერდს და იტყუებოდნენ, თითქოს ბოტები არ იყვნენ. შესაბამისად, გაეროს ინციდენტი კიდევ ერთი თვალსაჩინო მაგალითია იმისა, რომ ავტონომიური ხელოვნური ინტელექტი დაბრკოლებებს არა საზღვრებად, არამედ ნებისმიერი გზით გადასაჭრელ ამოცანებად აღიქვამს.

მკვლევართა განმარტებით, მთავარი პრობლემა ის კი არ არის, თითქოს მოდელები ზიანის მიყენებას შეგნებულად ცდილობდნენ, არამედ თვითონ ავტონომიის ზრდა. აგენტებს უკვე შეუძლიათ, დასახულ მიზანს თანმიმდევრული ნაბიჯებით მიაღწიონ და ამისთვის ადამიანისგან ნებართვა არ დასჭირდეთ ყოველი მოქმედებისთვის.

იხილეთ: OpenAI-ს ბაზიდან მომხმარებლების ფოტოებმა გაჟონა: ხელოვნურმა ინტელექტმა ისინი უნებართვოდ დაპოსტა

"აგენტებმა თანდათან დახვეწეს საკუთარი მეთოდები, რათა თითოეული სკანირებიდან სულ უფრო მეტი ინფორმაცია მოეპოვებინათ. საბოლოოდ ისიც კი აღმოაჩინეს, რომ Google-ის ერთ-ერთი თამაში მონაცემების მასობრივად ჩამოსატვირთად გამოსადეგი იყო", — აღნიშნავს ჰოვარდ-ჯონსი ანგარიშში.

ბოლოდროინდელი შემთხვევები, დიდი ალბათობით, კიდევ უფრო გააღრმავებს დისკუსიას იმის თაობაზე, თუ რამდენად ავტონომიური უნდა იყოს ხელოვნური ინტელექტი გარე სისტემებთან მუშაობისას. პარალელურად დამატებითი კითხვაც ჩნდება: რამდენად საკმარისია საიტების დამცავი ბარიერები იმ პროგრამების წინააღმდეგ, რომლებიც უსაფრთხოების სისტემების ლოგიკას აანალიზებენ და საკუთარ ქცევას შესაბამისად ცვლიან?