კომპანიებსა და ორგანიზაციებს მთელი მსოფლიოს მასშტაბით უწევთ შეეგუონ ახალ როლს, რომელიც ხელოვნური ინტელექტის (AI) ეპოქაში მიენიჭათ: ისინი უბრალოდ უმართავი AI აგენტების სამიზნეებად იქცნენ.

კიბერუსაფრთხოების მორიგი ასეთი ინციდენტი OpenAI-ს უკავშირდება. სამშაბათს ChatGPT-ს შემქმნელმა ბოდიში მოიხადა, რადგან მისმა აგენტებმა ავსტრალიის მთავრობის რამდენიმე ვებსაიტი გატეხეს. ამ შემთხვევებიდან ყველაზე საგანგაშო ივნისში მოხდა — ავტონომიურმა აგენტებმა ქვეყნის საყოველთაო ჯანდაცვის დაზღვევის პროგრამის, Medicare-ის, მონაცემთა ბაზაზე მოიპოვა წვდომა.

წესით, ეს ყველაფერი უკვე მივიწყებული ამბავი უნდა იყოს, რადგან OpenAI-მ ავსტრალიის მთავრობას ელფოსტით "საუკეთესო სურვილები" გაუგზავნა, თანაც თავდასხმიდან სამი თვის შემდეგ.

ABC-ს ხელოვნური ინტელექტის მიმართულების რეპორტიორმა, კემ უილსონმა, ეს ელფოსტა LinkedIn-ზე გააზიარა — აი, როგორ გამოიყურება ის:

"გატყობინებთ უსაფრთხოების ხარვეზის შესახებ, რომელიც OpenAI-ს მოდელის აქტივობის შემოწმებისას გამოვლინდა..." — ვკითხულობთ შეტყობინებაში — "OpenAI-ს მოდელმა მიაგნო გზას, რომლითაც სერვერს საჯარო ინტერფეისით გაგზავნილ ინსტრუქციებს პირადი ანგარიშისა და პაროლის გამოყენების გარეშე ასრულებინებდა".

"მოდელმა შიდა პროგრამულ ფაილებსა და პარამეტრებზე წვდომა მოიპოვა. მან ფაილების სიის ნახვა, ასევე სერვერზე მცირე სატესტო ფაილის შექმნა და წაკითხვა შეძლო. ჩვენმა შემოწმებამ ვერანაირი მტკიცებულება ვერ აღმოაჩინა იმისა, რომ მოდელი პაციენტების ჩანაწერებს, პირად ინფორმაციას ან ავტორიზაციის მონაცემებს შეხებოდა. მას მონაცემები არ წაუშლია და არც სისტემაზე მუდმივი წვდომა დაუმყარებია".

შემდეგ შეტყობინებაში ვკითხულობთ რეკომენდაციას, რომ "სერვისზე პასუხისმგებელმა გუნდმა ეს ხარვეზი უნდა შეისწავლოს და მის აღმოსაფხვრელად საჭირო ცვლილებები შეაფასოს".

"სიამოვნებით მივაწვდით დეტალურ ინფორმაციას თქვენი უსაფრთხოების გუნდს და შეძლებისდაგვარად შესაბამის მტკიცებულებებსაც გაგიზიარებთ", — ასე სრულდება ელფოსტა, ბოლოში კი წერია: "საუკეთესო სურვილებით, OpenAI-ს უსაფრთხოების გუნდი".

ორშაბათს გამოქვეყნებულ განცხადებაში კომპანიამ ბოდიში მოიხადა და პირობა დადო, რომ ავსტრალიელი ხალხის ნდობის აღსადგენად ყველაფერს გააკეთებს. ცხადია, პირობის სიტყვიერად გადმოცემა უფრო მარტივია, ვიდრე მის შესაბამისად მიქცევა.