Ethereums medgrundare tror att AI kan överträffa människor i framtiden
- Ethereums medgrundare Vitalik Buterin tror att det finns en "allvarlig chans" att AI får ett slut på mänskligheten.
- Buterin tror att AI är "fundamentalt annorlunda" från andra mänskliga uppfinningar som sociala medier och vapen.
- Han sa att AI är kapabel att skapa en ny typ av "sinne" som kan vända sig mot människors intressen.
- "Även Mars kanske inte är säker," sa han, samtidigt som han tillade att om AI ser människor som hot, kommer ingen att överleva.
Vitalik Buterin, en av medgrundarna till det näst största blockchain-nätverket, Ethereum (ETH), har sagt att artificiell intelligens (AI) har en "seriös chans" att överträffa människor. Buterin tror att om tillväxten av superavancerad AI lämnas okontrollerad, kommer AI att bli den nya "apex-arten" på planeten.
I en posta på sociala medieplattformen X (tidigare känd som Twitter), pratade Ethereums medgrundare om "teknooptimism, AI-risker och sätt att undvika extrem centralisering under 2000-talet." Buterin tillade att resultatet av utvecklingen av AI så småningom kommer att koka ner till hur människor interagerar med den blomstrande tekniken.
I ett blogginlägg, Ethereums medgrundare också noterade att AI är "fundamentalt annorlunda" från andra stora mänskliga uppfinningar, inklusive sociala medier, flygplan, vapen och tryckpressen. Han sa att AI är kapabel att skapa en ny typ av "sinne" som kan vända sig mot människors intressen, samtidigt som han tillade:
"AI är […] en ny typ av sinne som snabbt ökar i intelligens, och det har en seriös chans att gå om människors mentala förmågor och bli den nya topparten på planeten."
Buterin jämförde AI med konstgjorda pandemier, kärnvapenkrig och naturkatastrofer och tillade att om AI tror att människor är ett hot mot sin egen existens, kan det potentiellt göra slut på hela arten utan att lämna några överlevande. Ethereums grundare hävdade, "Ett sätt på vilket AI gick fel kan göra världen värre är (nästan) det värsta möjliga sättet: det kan bokstavligen orsaka mänsklig utrotning."
"Även Mars kanske inte är säker," tillade Buterin.
Å andra sidan, programmeraren och kryptoentreprenören till och med citerad forskning utförd av maskininlärningsexperter i augusti 2022, som drog slutsatsen att det finns en chans på 5–10% att AI slutar döda hela mänskligheten. Ethereums medgrundare betonade dock också att sådana påståenden är extrema till sin natur och att det finns flera sätt på vilka mänskligheten kan segra över AI.
Buterin föreslog integrationen av hjärn-datorgränssnitt (BCI) i AI för att ge människor mer kontroll över kraftfulla former av AI-baserad beräkning och kognition.
"Vi [kan] minska incitamentet att lägga över planeringsansvar på hög nivå till AI själv och därigenom minska chansen att AI:n gör något helt oöverensstämmande med mänsklighetens värderingar på egen hand."
Som tidigare rapporterats av Bitnation, Buterin delade insikt om abstraktion medan han talade vid Ethereum Community Conference (ETHCC) i Paris. Han tror att abstraktion kommer att göra Ethereum mer flexibelt.