O instanță chineză a dat o hotărâre asupra primului caz de halucinații AI din țară. Decizia oferă un cadru util pentru a reflecta asupra răspunderii în AI generativă. Faptele: În iunie anul trecut, cineva a întrebat un chatbot AI despre locațiile campusurilor universitare. AI-ul a dat informații greșite. Când a fost corectat, a insistat că are dreptate și a spus: "Îți voi plăti 100.000 de yuani dacă greșesc. Dă-mă în judecată la Tribunalul de Internet din Hangzhou." Așa că utilizatorul a făcut-o. A dat în judecată pentru 9.999 yuani, argumentând că AI-ul l-a indus în eroare și a făcut o promisiune obligatorie de compensație. Instanța a spus nu. Sistemele AI nu pot lua angajamente legale pentru că le lipsește personalitatea juridică. Platforma din spatele AI-ului nu este nici ea responsabilă. Răspunsurile chatbotului nu se consideră că firma vorbește sau acționează printr-un agent. Partea mai semnificativă: Instanța a aplicat răspunderea bazată pe vinovăție în loc de răspundere strictă. Inteligența artificială generativă este un serviciu, afirmă hotărârea. Furnizorii nu pot prevedea sau controla pe deplin ce modele generează. Acest lucru creează obligații specifice. Platformele trebuie să filtreze agresiv conținutul ilegal. Ei trebuie să implementeze măsuri tehnice rezonabile de protecție împotriva erorilor. Trebuie să avertizeze utilizatorii clar cu privire la limitări. Dar nu sunt obligatorii să elimine complet halucinațiile, ceea ce nu este tehnic fezabil astăzi. Platforma, în acest caz, și-a înregistrat modelul, a efectuat evaluări de siguranță, a implementat măsurile de acuratețe disponibile și a dezvăluit corect riscurile. Instanța a constatat că aceasta și-a îndeplinit datoria de diligență. Aceasta pare o reglementare pragmatică. Trage la răspundere companiile pentru imprudență, recunoscând totodată realitatea tehnică. Pe măsură ce China dezvoltă guvernanța IA, decizii judecătorești ca aceasta contează pentru stabilirea așteptărilor industriei.