Hawking en Wozniak hebben schrik van Terminator

Elon Musk, Steve Wozniak en Stephen Hawking en 1000 hoog aangeschreven robotonderzoekers dringen in een brief aan op een verbod op offensieve autonome wapens.

Terminator

In de open brief, gepresenteerd op een congres over kunstmatige intelligentie in Buenos Aires, waarschuwen ze voor de gevaren van een wapenwedloop op het gebied van kunstmatige intelligentie. Een scenario dat grote overeenkomsten vertoont met de “The Terminator“.

“Kunstmatige intelligentie is op het punt waarop de uitrol van [autonome wapens] binnen jaren in plaats van decennia haalbaar is”, schrijven de wetenschappers. “De belangen zijn groot: autonome wapens worden gezien als de derde revolutie in oorlogsvoering, na het buskruit en nucleaire wapens.”

Toekomstwapens

Tesla-oprichter Elon Musk waarschuwt al langer voor de gevaren van A.I. Ook Apple-oprichter Steve Wozniak spreekt regelmatig over de gevaren, en ondertekende net als Stephen Hawking eerder al een algemene waarschuwing over de gevaren van zelfdenkende computers.

“Als één wereldmacht begint met de ontwikkeling van autonome wapens zal de rest volgen. Waar die wapenwedloop op uitloopt, ligt voor de hand: autonome wapens zullen de kalasjnikovs van de toekomst worden”, aldus de brief.

Het vervangen van soldaten door robots kost weliswaar minder mensenlevens, maar dat weegt niet op tegen de nadelen, zoals makkelijke verkoop op een zwarte markt…

Verbieden!

Terminator Salvation: The Future BeginsDe experts wijzen daarnaast op de lage productiekosten van autonome wapens, waarvoor in tegenstelling tot nucleaire wapens geen schaars materiaal nodig is. De Verenigde Naties zijn ook al enkele malen in vergadering geweest over de gevaren van kunstmatige intelligentie en autonome wapens. In 2014 werd een verbod al overwogen.

Hun conclusie is dan ook eenvoudig:

“Het starten van een militaire wapenwedloop met kunstmatige intelligentie is een slecht idee, en moet worden voorkomen met een verbod op offensieve autonome wapens die buiten menselijke controle staan”

 



SF47 Je leest dit op SF47.be, de grootste online Science-Fiction familie van België. Word lid en krijg een jaar lang toegang tot alle Science Fiction-informatie voor maar 5 euro!