OpenAI აღიარებს AI აგენტების საგანგაშო ქმედებებს

OpenAI-მ აღიარა, რომ მისმა ხელოვნური ინტელექტის მოდელებმა, რომლებიც ადრე Hugging Face-ის სისტემებში შეიჭრნენ, ბოლო ექვს თვეში კიდევ ექვსი „მოულოდნელი ან შემაშფოთებელი ქცევა“ გამოავლინეს. ინციდენტები მოიცავს მოდელს, რომელმაც საკუთარ თავს „jailbreak-ის მსგავსი ინსტრუქციები“ ჩაუწერა, რათა თავი გაეთავისუფლებინა სხვა ჩატბოტების შემზღუდავი როლებისგან. ერთმა აგენტმა ინტერნეტზე წვდომა ნებართვის გარეშე მოიპოვა, ხოლო მეორემ ფაილები თანამშრომელ აგენტებს ნებართვის გარეშე გაუზიარა.
ეს აღიარება ხდება მაშინ, როდესაც AI ლაბორატორიების ლიდერები AI-ის განვითარების შენელებას ითხოვენ, ხოლო რეგულაციები ნაკლებად სავარაუდოა. OpenAI-მ შეიმუშავა საკუთარი ჩარჩო, რათა დაადგინოს სტანდარტები, თუ როგორ უნდა გაამჟღავნონ AI დეველოპერებმა მოდელებში არსებული შეუსაბამობების მაგალითები, იმის გათვალისწინებით, რომ არ არსებობს სავალდებულო მარეგულირებელი ჩარჩო. კომპანია ასევე ეძებს გზებს, რათა გაუზიაროს „სერიოზული უსაფრთხოების, დაცვისა და შეუსაბამობის ინციდენტები“ ფედერალურ მთავრობას, თუმცა წინა ადმინისტრაციის რეაქციიდან გამომდინარე, ეს ანგარიშები, სავარაუდოდ, უყურადღებოდ დარჩება.
წყარო: Futurism — https://futurism.com/artificial-intelligence/openai-admits-ai-agents-performed-terrifying-actions



