OpenAI-ს თუ დავუჯერებთ, მათი ხელოვნური ინტელექტის (AI) ახალი მოდელი იმდენად ძლიერია, რომ მისი გამოშვებისთვის კომპანიას უსაფრთხოების დამატებითი ზომების შემუშავება სჭირდება. ამის შესახებ Reuters წერს.

კომპანიის წარმომადგენლებმა სამშაბათს მედიასთან ისაუბრეს. ახალ მოდელი, სახელად Astra, კიბერუსაფრთხოებასთან დაკავშირებულ რთულ ამოცანებს ასრულებს. კომპანიის მტკიცებით, Astra-ს უსაფრთხოებაში იმაზე მეტი სუსტი წერტილის გამოვლენა შეუძლია, ვიდრე OpenAI-ს ამ დროისთვის ყველაზე დახვეწილ საჯაროდ ხელმისაწვდომ მოდელს. OpenAI-ს თუ დავუჯერებთ, ამისათვის მას ნაკლები გამოთვლითი რესურსიც სჭირდება.

კომპანიის გეგმის მიხედვით, Astra "მალე" გახდება ხელმისაწვდომი პატარა ჯგუფისთვის, თუმცა დეტალები არ დაუკონკრეტებიათ.

ახალი მოდელი კიბერუსაფრთხოების სპეციალისტებისთვის მნიშვნელოვანი ინსტრუმენტი შეიძლება გახდეს. AI-ს დახმარებით მათ სისტემებში არსებული ხარვეზების აღმოჩენა და გამოსწორება პოტენციურად უფრო სწრაფად შეეძლებათ. მეორე მხრივ, იმავე ტექნოლოგიის გამოყენება კიბერშეტევებისთვისაც არის შესაძლებელი. ამ და სხვა რისკების გამო OpenAI-მ ახალი მოდელის უსაფრთხოების წესების გამკაცრება გადაწყვიტა.

OpenAI-ის უსაფრთხოების შეფასების სისტემისთვის მნიშვნელოვანი შემთხვევაა. Astra ამ კომპანიის პირველი მოდელია, რომელმაც უსაფრთხოების დამატებითი ზომების მიღების საჭიროება შექმნა. ამ საკითხს თავად OpenAI-ს უსაფრთხოების პროტოკოლი არეგულირებს, ეს საკითხი კი აქამდე მხოლოდ თეორიული შესაძლებლობა იყო.

AI აგენტების შესაძლებლობების ზრდა კომპანიებისთვის კიდევ ერთი გამოწვევაა — მათ უკვე არაერთი მოქმედების განხორციელება შეუძლიათ ადამიანის მინიმალური ჩარევით, დავალების დამოუკიდებლად დაგეგმვა იქნება ეს, კოდის დაწერა, სხვადასხვა ინსტრუმენტის გამოყენება თუ რამდენიმე ეტაპიანი ამოცანების შესრულება.

მნიშვნელოვანი მაგალითია OpenAI-ს უსაფრთხოების ტესტირება, როცა AI მოდელები სატესტო გარემოს დაუსხლტნენ და Hugging Face-ის სისტემაში შეაღწიეს. OpenAI-ს განმარტებით, აღნიშნულ ინციდენტში ახალი მოდელი არ მონაწილეობდა, თუმცა Astra-სთან მიმართებით მაინც მეტი სიფრთხილეა საჭირო.

უსაფრთხოების ზომების გამკაცრებას მეორე მხარეც აქვს. ზედმეტად მკაცრმა შეზღუდვებმა შესაძლოა ისეთი მოქმედებებიც დააბრკოლოს, რომლებიც რეალურად უსაფრთხო და ლეგიტიმურია. ამის გამო კომპანიას სურს, მოდელმა უკეთ შეძლოს ერთმანეთისგან გაარჩიოს დასაშვები და სარისკო მოქმედებები.

OpenAI-ის ახალი მოდელის შემთხვევა ერთგვარი მაგალითია იმისა, რომ ხელოვნური ინტელექტის განვითარებასთან ერთად უსაფრთხოების საკითხიც იცვლება. რაც უფრო მეტის გაკეთება შეუძლია AI-ს ადამიანის ჩარევის გარეშე, მით უფრო მნიშვნელოვანი ხდება იმის განსაზღვრაც, თუ რა ფარგლებში უნდა შეძლოს მან მოქმედება.