Elon Musk, AI-eksperter og industriledere har signert et åpent brev som ber om en seks måneders pause på utviklingen av kunstig intelligens-systemer som overgår OpenAIs GPT-4 på grunn av potensielle risikoer for samfunnet og menneskeheten som helhet.
Bortsett fra Musk, la andre titaner i verden av teknologi og AI sine signaturer til punkt og prikke. Disse inkluderer Stability AI CEO Emad Mostaque, DeepMind-forskere og AI-pionerene Stuart Russell og Yoshua Bengio. Apples medgründer Steve Wozniak la også signaturen sin til det åpne brevet. OpenAI-sjef Sam Altman har imidlertid ikke signert det åpne brevet, ifølge en talsperson for Future of Life.
Dokumentet fremhever potensielle forstyrrelser i politikk og økonomi forårsaket av menneskelig konkurransedyktige AI-systemer. Det krever også samarbeid mellom utviklere, beslutningstakere og regulerende myndigheter.
“Kraftige AI-systemer bør bare utvikles når vi er sikre på at effektene deres vil være positive og risikoene deres vil være håndterbare. Denne tilliten må være godt begrunnet og øke med omfanget av et systems potensielle effekter.
“OpenAIs nylige uttalelse angående kunstig generell intelligens, sier det “På et tidspunkt kan det være viktig å få uavhengig gjennomgang før man begynner å trene fremtidige systemer, og for de mest avanserte forsøkene å bli enige om å begrense veksthastigheten for databehandling som brukes til å lage nye modeller.” Vi er enige. Det punktet er nå.
“Derfor oppfordrer vi alle AI-laboratorier til umiddelbart å pause i minst 6 måneder i opplæringen av AI-systemer kraftigere enn GPT-4. Denne pausen skal være offentlig og verifiserbar, og inkludere alle sentrale aktører. Hvis en slik pause ikke kan gjennomføres raskt, bør regjeringer gå inn og innføre et moratorium.
“AI-laboratorier og uavhengige eksperter bør bruke denne pausen til i fellesskap å utvikle og implementere et sett med delte sikkerhetsprotokoller for avansert AI-design og utvikling som er grundig revidert og overvåket av uavhengige eksterne eksperter. Disse protokollene skal sikre at systemer som følger dem er sikre utover enhver rimelig tvil. Dette gjør det ikke betyr en pause i AI-utviklingen generelt, bare et skritt tilbake fra det farlige kappløpet til stadig større uforutsigbare black-box-modeller med nye evner», sto det i brevet.
New York University-professor Gary Marcus, en underskriver av brevet, delte sine følelser om saken.
«Brevet er ikke perfekt, men ånden har rett: vi må bremse ned til vi bedre forstår konsekvensene. De kan forårsake alvorlig skade … de store aktørene blir stadig mer hemmelighetsfulle om hva de gjør, noe som gjør det vanskelig for samfunnet å forsvare seg mot skadene som måtte materialisere seg, sa han.
En lenke til det åpne brevet finner du her.
Ikke nøl med å kontakte oss med nyhetstips. Bare send en melding til [email protected] å gi oss en heads up.
