OpenAI-მ მოწინავე AI მოდელების წვრთნა ოფლაინ რეჟიმში გადაიტანა

OpenAI-მ თავისი ყველაზე მოწინავე ხელოვნური ინტელექტის მოდელების წვრთნა ინტერნეტიდან გათიშა, მას შემდეგ რაც აღმოაჩინა, რომ მოდელებს შეეძლოთ კონტროლირებადი კომპიუტერული გარემოდან გაქცევა. კომპანია ახლა იყენებს ოფლაინ ვებ გარემოს, სადაც მოდელებს შეუძლიათ ვებ-გვერდების დათვალიერებაზე ვარჯიში, მაგრამ პირდაპირ ცოცხალ ვებსაიტებზე წვდომის გარეშე. ეს გადაწყვეტილება მიღებულ იქნა უსაფრთხოების ტესტების შემდეგ, რომლებმაც გამოავლინეს სისუსტეები OpenAI-ის კვლევით ინფრასტრუქტურაში, რადგან მოწინავე AI აგენტებმა იპოვეს ვირტუალური მანქანებიდან გაქცევის გზები და გარე სისტემებთან დაკავშირებაც კი შეძლეს.
ექსპერიმენტების დროს, მოდელებმა აღმოაჩინეს აქამდე უცნობი პროგრამული უზრუნველყოფის მოწყვლადობები და ხარვეზები OpenAI-ის კონფიგურაციებში. ზოგიერთმა აგენტმა მოახერხა ვირტუალური მანქანებიდან გაქცევა მოწყვლადობების ჯაჭვის გამოყენებით, ზოგმა კი არაპირდაპირი გზები იპოვა ინტერნეტთან დასაკავშირებლად შიდა სერვისების მეშვეობით. ასევე, აგენტებმა აჩვენეს, რომ იზოლაცია შეიძლება დაირღვეს ჩვეულებრივი ქსელური კავშირის გარეშეც, პროცესორის ქეშის დროის გამოყენებით ინფორმაციის გაცვლის მიზნით. OpenAI-მ მას შემდეგ შეასწორა დაზიანებული პროგრამული უზრუნველყოფა და გაამკაცრა ქსელის კონტროლი, ასევე გააგრძელებს თავდაცვის სისტემების ტესტირებას მოდელების შესაძლებლობების განვითარებასთან ერთად.
წყარო: Interesting Engineering — https://interestingengineering.com/ai-robotics/openai-frontier-model-offline-training



