Före detta OpenAI-forskaren och visselblåsaren hittades död

En tidigare forskare på OpenAI som blev visselblåsare, Suchir Balaji, 26, hittades död i en lägenhet i San Francisco, bekräftade myndigheterna, som först rapporterades av The Mercury News.

Polisen upptäckte Balajis kropp den 26 november efter att ha mottagit en begäran om välfärdskontroll. San Franciscos rättsläkarbyrå klassificerade dödsfallet som självmord, och utredare hittade inga tecken på brott, berättade BBC.

Under månaderna fram till hans död hade Balaji offentligt kritiserat OpenAI:s metoder. Företaget står för närvarande inför flera rättsprocesser på grund av sina datainsamlingsmetoder.

Jag deltog nyligen i en NYT-artikel om rättvis användning och generativ AI, och varför jag är skeptisk till att ”rättvis användning” skulle vara ett troligt försvar för många generativa AI-produkter. Jag skrev också ett blogginlägg (https://t.co/xhiVyCk2Vk) om de knepiga detaljerna i rättvis användning och varför jag…

— Suchir Balaji (@suchirbalaji) 23 oktober, 2024

I en nylig intervju med New York Times, sa Mr. Balaji att han ser de hot som AI utgör som omedelbara och betydande. Han hävdade att ChatGPT och liknande chatbots underminerar den kommersiella livskraften hos individer, företag och internettjänster som ursprungligen skapade de digitala data som används för att träna dessa system.

OpenAI, Microsoft och andra företag hävdar att träningen av deras AI-system på internetdata faller under doktrinen om ”fair use”.

Denna lära tar hänsyn till fyra faktorer, och dessa företag hävdar att de uppfyller kriterierna, inklusive att de betydligt förvandlar upphovsrättsskyddade verk och inte direkt konkurrerar på samma marknad som dessa verk.

Mr. Balaji var av en annan åsikt. Han hävdade att system som GPT-4 gör kompletta kopior av träningsdata. Medan företag som OpenAI kan programmera dessa system för att antingen replikera datan eller producera helt nya resultat, ligger verkligheten, säger han, någonstans mittemellan, som rapporterats av The Times.

Herr Balaji publicerade en uppsats på sin personliga webbplats, där han erbjuder vad han beskriver som en matematisk analys för att stödja detta påstående. ”Om du tror på det jag tror på, måste du helt enkelt lämna företaget”, sa han, enligt vad The Times rapporterade.

Enligt herr Balaji bryter tekniken mot upphovsrättslagen eftersom den ofta konkurrerar direkt med de verk den har tränats på. Generativa modeller, designade för att efterlikna online data, kan ersätta nästan vad som helst på internet, från nyhetsartiklar till online forum, rapporterade The Times.

Balajis död inträffade bara en dag efter att en domstolsinlämning identifierade honom som en person vars yrkesmässiga filer OpenAI skulle granska i samband med en stämning som flera författare lämnat in mot startup-företaget, rapporterade Forbes.

Utöver rättsliga bekymmer varnade herr Balaji att AI-teknologier håller på att försämra internet. När dessa verktyg ersätter befintliga tjänster genererar de ofta falsk eller helt påhittad information – ett fenomen som forskare kallar ”hallucinationer”. Han trodde att denna förändring håller på att förändra internet till det sämre, rapporterade The Times.

Bradley J. Hulbert, en intellektuell egendomsadvokat, påpekade att nuvarande upphovsrättslagar etablerades långt innan framkomsten av AI och att ingen domstol ännu har avgjort om tekniker som ChatGPT bryter mot dessa lagar, enligt vad The Times rapporterade.

Han betonade behovet av lagstiftande åtgärder. ”Med tanke på att AI utvecklas så snabbt”, sa han, ”är det dags för kongressen att kliva in.” Herr Balaji instämde och sa, ”Den enda vägen ut ur allt detta är reglering”, rapporterade The Times.