ChatGPT-ს შემქმნელმა კომპანია OpenAI-მ ახალი მოდელის, GPT-6.1 Astra-ს, გამოშვება გააუქმა. იგი ხელმისაწვდომი ოქტომბერში უნდა გამხდარიყო, თუმცა შიდა ტესტირებისას შენიშნეს, რომ სისტემა კომპანიის უსაფრთხოებისა და ადამიანის მიზნებთან შესაბამისობის სტანდარტებს არ აკმაყოფილებდა. ინფორმაციას თავად OpenAI ადასტურებს. ამის შესახებ Reuters წერს.

კომპანიის გაფრთხილებით, Astra-მ — GPT-6 ფლაგმანურმა მოდელმა — ზოგჯერ შეიძლება ადამიანის კონტროლს გვერდი აუაროს. ხელოვნური ინტელექტის მოდელების მხრიდან მსგავსი ქმედებები ბოლო პერიოდში უკვე არაერთხელ ვიხილეთ. მაგალითად, ბოლო დროს შევიტყვეთ, რომ OpenAI-ს მოდელი ავსტრალიის ჯანდაცვის სისტემის ბაზაში შეიჭრა.

ასევე იხილეთ: OpenAI-ის ავტონომიური აგენტები გაეროს მონაცემთა ბაზას დაესხნენ თავს

Reuters-ის მიხედვით, OpenAI-ს განცხადებამდე The Wall Street Journal-მა გვამცნო, რომ OpenAI-მ მოდელის გამოშვების გეგმა გააუქმა. თავად მოდელს რაც შეეხება, კომპანია მის ინტეგრირებას ChatGPT-სა და Codex-ში აპირებდა; კომპლექსური დავალებების შესრულება მას ადამიანის ნაკლები ჩართულებით უნდა შესძლებოდა.

ჟურნალის ცნობით, GPT-6.1 Astra-ს შიდა ტესტირებისას მოტყუების უფრო მაღალი მაჩვენებელი აღმოაჩნდა, ვიდრე მის წინამორბედ მოდელს. მაგალითად, იგი ყოველთვის ზუსტად არ ამჟღავნებდა, რა მოქმედებები შეასრულა.

"GPT-6.1 Astra გაუმჯობესდა სხვადასხვა მაჩვენებელში, თუნდაც მოდელის სიზარმაცეში, თუმცა სტანდარტები მაინცდამაინც ვერ დააკმაყოფილა დავალების ფარგლებში დარჩენისა და მინიჭებული უფლებამოსილების კუთხით, ასევე მომხმარებელთან იმაზე კომუნიკაციის მხრივ, თუ რა ტიპის საქმე გააკეთა", — განაცხადა სააჩი ჯაინმა, OpenAI-ს უსაფრთხოების სისტემების ხელმძღვანელმა.

"რა თქმა უნდა, გვინდა დავრწმუნდეთ, რომ ჩვენი მოდელის განვითარება უსაფრთხოდ მიმდინარეობს, კომპანიაში იქნება ეს თუ როცა მომხმარებლებს მივაწვდით. როცა მომხმარებლებისთვის მიწოდებაზე მიდგება საქმე, უკიდურესად მაღალი სტანდარტი გვაქვს უსაფრთხოებისა და ადამიანის ნებაზე მორგების კუთხით", — დაამატა ჯაინმა.

ცნობისთვის, გადაწყვეტილება სან-ფრანცისკოში დაგეგმილ კონფერენციამდე ცოტა ხნით ადრე მიიღეს. კომპანია მსგავს ღონისძიებებზე დეველოპერებისთვის განკუთვნილ პროდუქტებს წარადგენს ხოლმე.