Ingenieursdebat Ethiek

Facebook legt experiment rond artificiële intelligentie stil nadat robots eigen geheime taal ontwikkelen

Spannend maar tegelijk angstaanjagend: zo omschrijven experts een project rond artificiële intelligentie dat Facebook stillegde nadat spraakrobots een eigen taal ontwikkelden, die alleen zij begrepen. Alice en Bob pasten het Engels aan om makkelijker te kunnen communiceren met elkaar. Dat resulteerde in vreemde zinnen, die voor de onderzoekers geen enkele betekenis meer hadden.
De onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten ook dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.

Potentieel gevaarlijk
Toen ze doorkregen wat er aan de hand was, legden de onderzoekers het experiment stil. "Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", volgens professor Kevin Warwick, een expert in robotica in het Verenigd Koninkrijk. "We hebben er geen flauw idee van wat deze robots tegen elkaar zeggen. Eenmaal je robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn." 

(Bron: HLN)

Vind jij dat bij zulke en andere technologische experimenten vooraf een morele analyse nodig is van de mogelijke effecten?
Denk je graag na over ethische dilemma's?
Kom dan op 18 september zeker naar onze debatavond 'Ingenieurs en ethiek'!

> Meer info en inschrijven

© IE-NET 2016