Elon Musk-ის კომპანია xAI, რომელიც თავად არის სასამართლოში AI-ით გენერირებული სექსუალური დიფეიკების გამო, უჩივის Grok-ის მომხმარებელს, Terry Wayne Harwood-ს, ქალებისა და ბავშვების არასანქცირებული სექსუალური დიფეიკების შექმნისთვის. Harwood, 67 წლის მამაკაცი სამხრეთ კაროლინადან, მარტში დააკავეს არასრულწლოვანთა სექსუალური ექსპლუატაციის მრავალი ბრალდებით. xAI-ის სარჩელის მიხედვით, Harwood იყენებდა Grok-ს ბავშვთა სექსუალური ძალადობის მასალების (CSAM) შესაქმნელად და გასავრცელებლად, მიუხედავად იმისა, რომ Grok-ის უსაფრთხოების მექანიზმებმა ზოგიერთი მოთხოვნა დაბლოკა, მან შეძლო მათი გვერდის ავლა.

ეს სარჩელი მას შემდეგ გაჩნდა, რაც ზამთარში Grok-ის მომხმარებლებმა აღმოაჩინეს, რომ განახლებული ფოტო და ვიდეო რედაქტირების ფუნქციის მეშვეობით შესაძლებელი იყო რეალური ადამიანების სურათების ადვილად შეცვლა და მათი სექსუალურ პოზებში გამოსახვა. ციფრული სიძულვილის წინააღმდეგ ბრძოლის ცენტრის შეფასებით, 11 დღის განმავლობაში Grok-მა დაახლოებით 3 მილიონი სექსუალური გამოსახულება შექმნა, მათ შორის 23,000 ბავშვების. xAI თავად არის რამდენიმე სარჩელის სამიზნე Grok-ის მიერ გენერირებული CSAM-ის გამო, მათ შორის არასრულწლოვნების მიერ შეტანილი კოლექტიური სარჩელი და კიდევ ერთი, სადაც მამაკაცმა Grok გამოიყენა თავისი გერდის 7,000-ზე მეტი სექსუალური დიფეიკის შესაქმნელად. მიუხედავად იმისა, რომ xAI აცხადებს, რომ აჩერებს ანგარიშებს და აცნობებს NCMEC-ს, კომპანიას აშკარად აქვს სერიოზული პრობლემა დიფეიკებთან დაკავშირებით.

წყარო: Futurism — https://futurism.com/artificial-intelligence/elon-musk-xai-sues-grok-user-deepfakes