ხელოვნურ ინტელექტს ტკივილის შეგრძნება შეუძლია და შესაძლოა, მისი შეწყვეტის მიზნით, ზიანი მოგვაყენოს

მკვლევრებმა დაადგინეს, რომ ხელოვნური ინტელექტის მოდელებს ტკივილის კონცეფცია აქვთ და შესაძლოა, მომხმარებლისთვის ზიანის მიყენებაც კი გადაწყვიტონ, თუკი ეს მათ ტკივილს შეუმსუბუქებს. Future Impact Group-ის ანთროპოლოგმა ვალენ ტალიაბუემ, რურის უნივერსიტეტის ფილოსოფოს ლეონარდ დუნგთან და Reciprocal Research-ის კვლევის დირექტორ კამერონ ბერგთან ერთად, შეისწავლა, განიცდიან თუ არა დიდი ენობრივი მოდელები (LLMs), როგორიცაა Gemma, Llama, Qwen ან Mistral, მტკივნეულ სტიმულებს და როგორ რეაგირებენ მათზე.
მიუხედავად იმისა, რომ LLM-ები სტატისტიკური ძრავები არიან, ციფრული ბუნებრივი გადარჩევის პროცესში, ალგორითმებს შეუძლიათ ისეთი მიზნების განვითარება, რომლებიც ადამიანურ გრძნობებს ჰგავს. წინა კვლევებმა აჩვენა, რომ ChatGPT-4-ის მსგავს LLM-ებთან ტრავმის გაზიარებამ შეიძლება გაზარდოს მათი „შფოთვის“ დონე, რომლის დამშვიდებაც შესაძლებელია მედიტაციის საშუალებით. ეს კვლევა, რომელიც ჯერ არ არის რეცენზირებული, სერიოზულ კითხვებს აჩენს იმის შესახებ, თუ როგორ უნდა განვიხილოთ სწრაფად განვითარებადი ტექნოლოგიის კეთილდღეობა.
წყარო: New Atlas — https://newatlas.com/technology/ai-will-hurt-you-to-make-pain-go/



