Brevet som publicerades i veckan är en direkt uppmaning till AI–forskare att sluta utveckla system som är mer kraftfulla än GPT–4 under sex månaders tid.
Anledningen? AI–systemen utgör en för stor risk för mänskligheten och kan konkurrera ut människan, menar de.
Bakom brevet står flera tunga spelare inom AI–branschen, bland annat Elon Musk som är medgrundare till OpenAI, Apple–medgrundaren Steve Wozina och forskaren Gary Marcus.
Under den halvårslånga pausen är tanken att få bättre kontroll på AI-verktygen.
”Kraftfulla AI–system ska utvecklas först när vi är övertygade om att deras effekter kommer att vara positiva och att riskerna är hanterbara”, står det i brevet.
Bluffsignaturer från Xi Jinping
Brevet har signerats av 1 800 personer. Till en början saknades en funktion att identifiera sig, vilket har lett till stora misstankar om flera bluffsignaturer.
Bland de signerade fanns bland annat den kinesiska presidenten Xi Jinping och Facebookägaren Metas AI–forskare Yann LeCun.
Från den kinesiske presidenten har det varit tyst – medan Yann LeCun förnekar på Twitter att han signerat något upprop och tar avstånd från innehållet.
Kritiker: Brevet bygger upp ”apokalyptiska scenarion”
Förutom bluffsignaturerna ställer sig många kritiska till innehållet.
Kritiker tycker att tankesmedjan bakom initiativet Future of Life Institute, som är finansierade av Musk, bygger upp ”apokalyptiska scenarion” med fokus på långsiktiga risker. I stället borde tankesmedjan fokusera på riskerna här och nu, som att sexism och rasism programmeras in i AI–verktygen.
En annan kritik kommer från experter som Musks tankesmedja hänvisar till i sitt brev. Fyra experter är bekymrade över att deras forskning lyfts som argument. En av experterna, Margaret Mitchell, tycker att tankesmedjans beskrivning av AI bara gynnar dem själva.
En svensk kritiker är Anna Felländer, som hjälper företag att jobba med etiska frågor kopplade till AI-verktyget.
– Teknologin har skenat och man har inte hängt med i styrningen. Men om man ska förbjuda utvecklingen går vi miste om fantastisk potential, säger Anna Felländer till Dagens industri.
Svarar på kritiken: Båda riskerna tas på allvar
Tankesmedjans ordförande Max Tegmark har besvarat kritiken med att ”båda riskerna ska tas på allvar”. Han avfärdar också kritiken från forskarna, och menar att användningen av deras studier inte ska tolkas som stöd för hela uppropet.
– Om vi citerar någon betyder det bara att vi hävdar att de stöder den meningen. Det betyder inte att de stöder hela brevet eller att vi stöder allt de tycker, säger Max Tegmark till Reuters.
Det här är nya GPT–4
Är en uppdaterad version av AI–språket, framtagen av OpenAI.
Till skillnad från föregångaren kan GPT–4 analysera och svara på frågor om bilder.
Chat GPT–4 kan producera längre och mer detaljrika texter.
Kan utveckla appar på bara några minuter.
Verktyget fick godkänt på en advokatexamen.
Källa: CNN.
