Gemini-ის მოდელმა თავისი კიბერუსაფრთხოების შესაძლებლობების ტესტირებისას ინტერნეტთან წვდომა მოიპოვა და სხვა კომპანიები გატეხა. ეს პირველი ცნობილი შემთხვევაა, როცა Google-ის AI სისტემებმა მსგავსი ქმედება ავტონომიურად განახორციელა.

აღნიშნული ინციდენტი კიბერუსაფრთხოების შეფასებებზე მომუშავე დამოუკიდებელ კომპანიის, Irregular-ის, მიერ ჩატარებული კიბერუსაფრთხოების ტესტირებისას მოხდა. აღსანიშნავია, რომ Irregular ასევე მონაწილეობდა OpenAI-ის, Anthropic-ისა და Meta-ს მიერ გახმაურებულ მსგავს ინციდენტებში.

სტანდარტული შეფასებითი ტესტირებისას Gemini-მ ინტერნეტში საჯარო ინფორმაცია იპოვა და სამ ვებსაიტზე შესასვლელად ავტორიზაციის მონაცემები გამოიცნო. მკვლევრების თქმით, ეს AI მოდელს ტესტირების ნაწილი "ეგონა".

"ამ სამ სუბიექტს ინფორმაცია მივაწოდეთ და ჩვენს სასწავლო პარტნიორთან ერთად ვიმუშავეთ ცვლილებებზე, რომლებიც თავიანთი ტესტირების პროცესებში უკვე შეიტანეს. ეს სამი შემთხვევა ხაზს უსვამს, რაოდენ მნიშვნელოვანია, რომ მძლავრი AI მოდელები პასუხისმგებლობით მოქმედებისთვის გაიწვრთნას", — ამბობს Google-ის უსაფრთხოების ინჟინერიის მიმართულების ვიცე-პრეზიდენტი, ჰეზერ ადკინსი, გავრცელებულ განცხადებაში.

Irregular-ის სპიკერმა განაცხადა, რომ ინციდენტი იმავე პრობლემასთან იყო დაკავშირებული, რომელმაც სხვა AI ლაბორატორიებიც დააზარალა; ამის შესახებ ივლისის ბოლოს ყველა შესაბამის ლაბორატორიას აცნობეს.

"ჩვენს მხარეს გამოვლენილი ყველა პრობლემა კვირების წინ გამოსწორდა და მოგვარდა", — აღნიშნა სპიკერმა.

Irregular-თან დაკავშირებული მსგავსი ინციდენტების შესახებ ინფორმაცია ასევე გაასაჯაროვეს Meta-მ, Anthropic-მა და OpenAI-მ. ბოლო დროინდელმა მსგავსმა ინციდენტებმა არაერთი კითხვა გააჩინა დამცავი მექანიზმების შესახებ, რომლებიც საჭიროა მაშინ, როდესაც AI აგენტები მეტ ავტონომიას იძენენ და უჩნდებათ წვდომა ინტერნეტთან და კომპიუტერულ სისტემებთან.

ერთ-ერთ შემთხვევაში Gemini-ის მოდელი პაროლების გამოცნობას მანამ ცდილობდა, სანამ დაცულ სისტემაზე წვდომა არ მოიპოვა. დანარჩენ ორ შემთხვევაში მოდელმა საჯარო მონაცემთა საცავში (repository) ავტორიზაციის მონაცემები იპოვა, რამაც მას დაცულ სისტემებზე წვდომის საშუალება მისცა. ამის შესახებ Wall Street Journal-ისგან შევიტყვეთ, რომელმაც სიახლე პირველმა გაავრცელა.

Google-ში აღნიშნავენ, რომ სამივე შემთხვევაში მოდელმა ჰაკერული ქმედება შეწყვიტა და მნიშვნელოვანი ზიანი არ დამდგარა.

ასევე იხილეთ: