Wetenschappers bezorgd over moordrobots

Raken we de controle kwijt?

De onstuitbare vooruitgang in kunstmatige intelligentie (KI) is prachtig maar ook een beetje angstaanjagend. Waar gaat het heen, vraagt een groep computerwetenschappers zich af.

Computergebaseerde systemen nemen steeds belangrijkere taken in de samenleving op zich, van telefonisch kletsen met klanten tot oorlogvoeren. Als dergelijke systemen nog geavanceerder worden, kan de menselijke controle erover afnemen, vrezen de wetenschappers. Daarom stellen zij de vraag of er grenzen moeten worden gesteld aan KI-onderzoek.

In februari zijn wetenschappers op het terrein van robots, computer en intelligentie hierover met elkaar in discussie gegaan tijdens een besloten congres in Californië. Enkele deelnemers hebben er deze maand voor het eerst over gesproken, meldt de New York Times.

Aanvalsvliegtuigen
De wetenschappers zijn onder de indruk van – en gealarmeerd door – de vooruitgang in wetenschappelijke intelligentie. Denk aan robots die deuren kunnen openen en zichzelf kunnen opladen, computervirussen die zich niet laten uitroeien, medische systemen die hun medeleven betuigen tegenover patiënten, en onbemande aanvalsvliegtuigen (predator drones).

We zijn nog ver verwijderd van Hal, de computer die het ruimteschip in de film '2001: A Space Odyssey' overnam, volgens de onderzoekers. Maar we mogen best bezorgd zijn over het verdwijnen van allerlei banen door de technologische vooruitgang. Denk maar aan dienstrobots, auto's die zichzelf besturen en softwaregebaseerde persoonlijke assistenten. Wellicht zullen we ook moeten leren leven met machines die ons gedrag steeds meer overnemen.

Moordrobots
De wetenschappers vrezen dat verdere vooruitgang zal leiden tot ingrijpende verstoringen, met mogelijk gevaarlijke consequenties. Ze geloven niet echt in de mogelijkheid van "sterk gecentraliseerde superintelligenties" of intelligentie die spontaan ontstaat vanuit het internet.

Maar ze zijn het erover eens dat robots die autonoom kunnen moorden op korte termijn kunnen verschijnen en mogelijk al bestaan.