Wat de ondertekenaars van de petitie betreft moet er een tijdelijke stop komen op de verdere ontwikkeling van AI, tot veiligheidssystemen zijn ingevoerd, zoals nieuwe regelgevende instanties, toezicht op AI-systemen, technieken die helpen een onderscheid te maken tussen echte en artificiële content en instellingen die kunnen omgaan met de «dramatische economische en politieke ontwrichting (vooral van de democratie) die AI zal veroorzaken».
Aanpassingstijd
ChatGPT is een project van het Amerikaanse OpenAI, dat mee werd opgericht door Elon Musk. CEO Sam Altman heeft al aangegeven dat hij «een beetje bang» was voor de uitvinding als die gebruikt zou worden voor «grootschalige desinformatie of cyberaanvallen». In een interview met ABC News zei hij dat de samenleving «tijd nodig heeft om zich aan te passen».
uit de hand gelopen
«AI-laboratoria zijn de laatste maanden verwikkeld in een uit de hand gelopen race om steeds krachtiger digitale breinen te ontwikkelen en ontplooien, die niemand - zelfs hun ontwikkelaars niet - kan begrijpen, voorspellen of op een betrouwbare manier controleren», aldus de oproep van het Future of Life Institute.
Propaganda en Leugens
«Moeten we toelaten dat machines onze informatiekanalen overspoelen met propaganda en leugens», gaat het manifest verder. «Moeten we alle jobs wegautomatiseren, ook de zinvolle? Moeten we niet-menselijke breinen ontwikkelen die uiteindelijk ons kunnen overtreffen, te slim af zijn, overbodig maken en vervangen? Moeten we riskeren dat we de controle over onze beschaving verliezen? Die beslissingen mogen niet toevertrouwd worden aan onverkozen bazen van technologiebedrijven.»