ChatGPT-skaparen säger att AI "superintelligens" är omöjligt att stoppa

OpenAI, AI -företaget bakom Chatgpt, har varnat för att ankomsten av konstgjord intelligens som överträffar människor är oundvikligt.

Konstgjord allmän intelligens, även känd som superintelligens, har teoretiserats av filosofer och akademiker i årtionden, även om snabba framsteg under de senaste åren innebär att vi nu kan vara på väg till det, varnade seniorfigurer inom OpenAI.

I ett blogginlägg som publicerades på onsdag sa Openais Sam Altman, Greg Brockman och Ilya Sutskever att AI -superintelligens kommer att vara enastående i sin makt - både positiva och negativa.

"Med tanke på bilden som vi ser den nu är det tänkbart att AI -system inom de kommande tio åren kommer AI -system att överskrida expertfärdighetsnivå inom de flesta domäner och genomföra lika mycket produktiv aktivitet som ett av dagens största företag", sade Posten.

"När det gäller både potentiella uppsidor och nackdelar kommer superintelligens att vara mer kraftfull än annan teknik som mänskligheten har varit tvungen att kämpa med tidigare. "

Openai lade ut på tre sätt mänskligheten kan navigera i ankomsten av superintelligens, men varnade lagstiftare och tillsynsmyndigheter mot att försöka stoppa det.

"Vi tror att det skulle ointuitivt riskabelt och svårt att stoppa skapandet av superintelligens," varnade inlägget.

”Eftersom uppsidorna är så enorma, minskar kostnaden för att bygga den varje år, antalet aktörer som bygger det snabbt ökar, och det är i sig en del av den tekniska vägen vi är på, att stoppa det skulle kräva något som en global övervakningsregime, Och till och med det garanteras inte att fungera. Så vi måste få det rätt. ”

Ett potentiellt sätt att förhindra AI -skador som valmanipulation skulle vara genom att införa licens- och testkrav för utveckling av AI, sade Altman.

En möjlighet, enligt OpenAI, är genom skapandet av en amerikansk licensbyrå för AI som heter Office for AI Safety and Infrastructure Security (OASIS).