Nature-ში გამოქვეყნებული ახალი ნაშრომის მიხედვით, სამედიცინო რჩევებისთვის ხელოვნური ინტელექტის (AI) ჩატბოტების გამოყენება შეიძლება სახიფათო იყოს.

კვლევას ოქსფორდის უნივერსიტეტის მკვლევრები უძღვებოდნენ. მათი ნაშრომის თანახმად, სამედიცინო გადაწყვეტილებების მისაღებად AI-ს გამოყენება პაციენტებს რისკის უქმნის, რადგან "არაზუსტი და არათანმიმდევრული ინფორმაციის მიწოდებისადმი მიდრეკილება" ახასიათებს.

დოქტორ რებეკა პეინის, კვლევის თანაავტორის, აზრით, "მიუხედავად დიდი აჟიოტაჟისა, ხელოვნური ინტელექტი ჯერ კიდევ არ არის მზად ექიმის როლის შესასრულებლად".

"პაციენტებმა უნდა იცოდნენ, რომ სიმპტომების შესახებ დიდი ენობრივი მოდელისთვის კითხვის დასმა შეიძლება სახიფათო იყოს — მან შეიძლება მცდარი დიაგნოზი დასვას ან ვერ მიხვდეს, რომ გადაუდებელი დახმარებაა საჭირო", — თქვა დოქტორმა პეინმა, რომელიც ზოგადი პროფილის ექიმია.

კვლევის ფარგლებში მეცნიერებმა 1 300-ამდე მონაწილეს სთხოვეს, სხვადასხვა სცენარში ჯანმრთელობის შესაძლო პრობლემები ამოეცნოთ და რეკომენდებული სამოქმედო გეგმა განესაზღვრათ.

ზოგი მონაწილე ამისათვის AI პროგრამებს (დიდ ენობრივ მოდელებზე, ანუ LLM-ებზე, მომუშავე პროგრამებს) იყენებდა, სხვები კი ტრადიციულ მეთოდებს მიმართავდნენ, მაგალითად ზოგადი პროფილის ექიმთან ვიზიტს.

მკვლევრებმა შედეგები შეაფასეს და დაადგინეს, რომ AI ხშირად "სწორი და მცდარი ინფორმაციის ნაზავს" გასცემდა, მომხმარებლებს კი მათი ერთმანეთისგან გამიჯვნა უჭირდათ.

ავტორთა დასკვნით, AI ჩატბოტები "სამედიცინო ცოდნის სტანდარტიზებულ ტესტებს ბრწყინვალედ აბარებენ", თუმცა სამედიცინო მიზნებით მათი გამოყენება "რისკს უქმნის რეალურ მომხმარებლებს, რომლებიც საკუთარი სიმპტომების გამო დახმარებას ითხოვენ".

"მიგნებები ხაზს უსვამს, თუ რა რთულია ისეთი AI სისტემების შექმნა, რომლებსაც ადამიანების დახმარება რეალურად შეეძლება მგრძნობიარე და საპასუხისმგებლო დარგებში, თუნდაც ჯანმრთელობის სფეროში", — განაცხადა დოქტორმა პეინმა.

ენდრიუ ბინის, კვლევის მთავარი ავტორის, თქმით, ადამიანებთან ინტერაქცია საუკეთესო LLM-ებისთვისაც კი რთული აღმოჩნდა.

"იმედი გვაქვს, ეს ნაშრომი ხელს შეუწყობს უფრო უსაფრთხო და სასარგებლო AI სისტემების განვითარებას", — დასძინა მან.