In Südafrika sollte ein Gesetz zur Regulierung von Künstlicher Intelligenz entstehen. Der Entwurf sah vor, eine nationale KI-Kommission sowie ein Sicherheitsinstitut für Künstliche Intelligenz einzurichten. Die Gesetze sollten sich auf fünf Grundpfeiler stützen: Leistungsfähigkeit, verantwortungsvolle Verwaltung, ethische und inklusive KI, kulturelle Erhaltung und menschenzentrierte Softwareverteilung.
Das Problem: Offenbar wurde der Entwurf selbst von einem KI-Tool verfasst. Als der Gesetzesentwurf öffentlich gemacht wurde, analysierten Journalisten die zitierten Quellen - und stellten fest, dass mindestens sechs der 67 wissenschaftlichen Texte gar nicht existieren.
Wie t3n.de unter Berufung auf The Next Web berichtet, wurden zwar echte Institute und Wissenschaftler genannt, doch die zugehörigen Texte wurden nie von ihnen verfasst. Minister Solly Malatsi vermutet, dass die Verantwortlichen für die ersten Entwürfe selbst KI genutzt haben, um ihre Arbeit zu beschleunigen.
Das KI-Tool hat dabei offenbar einfach Quellen halluziniert - also erfunden. Mittlerweile hat Minister Malatsi den Gesetzesvorschlag zurückgezogen. Er kündigte Konsequenzen für diejenigen an, die KI genutzt haben, um ausgerechnet eine KI-Richtlinie zu verfassen.
Der Minister will jedoch nicht aufgeben: Der Entwurf soll so überarbeitet werden, dass er vollständig von Menschen verfasst wurde. Wie lange die Arbeit daran dauern wird, ist noch nicht bekannt.
