Geoffrey Hintons Vorschlag: KI-Modelle vor der Veröffentlichung wie Medikamente prüfen

Geoffrey Hinton fordert, dass KI-Unternehmen die Sicherheit neuer Produkte vor deren Veröffentlichung gegenüber einer Behörde nachweisen müssen – ähnlich wie bei Medikamenten. Er und weitere Forscher warnen, dass KI-Systeme künftig bei der Verbesserung von KI mitwirken und dadurch schwerer kontrollierbar werden könnten. In den USA setzt die Regierung laut dem Bericht stattdessen auf Selbstverpflichtungen der Branche; Hintons Vorschlag ist keine geltende Zulassungspflicht.