KI hat gelernt, Menschen zu täuschen

Uns wird gesagt, dass künstliche Intelligenz (KI) von Vorteil sein kann, sie kann uns zum Beispiel helfen, riesige Datenmengen zu programmieren, zu schreiben und zu synthetisieren.

Es wurde auch berichtet, dass sie Menschen bei Brettspielen überlisten, die Struktur von Proteinen entschlüsseln und sogar eine rudimentäre Konversation führen können.

Aber eine neue Forschungsarbeit hat herausgefunden, dass KI-Systeme jetzt herausgefunden haben, wie sie uns absichtlich täuschen können.

TGP-Berichte: In dem Papier heißt es, dass eine Reihe von KI-Systemen Techniken erlernt haben, um systematisch "falsche Überzeugungen bei anderen zu induzieren, um ein anderes Ergebnis als die Wahrheit zu erzielen".

Business Insider berichtete:

"Das Papier konzentrierte sich auf zwei Arten von KI-Systemen: Systeme für spezielle Zwecke wie CICERO von Meta, die für eine bestimmte Aufgabe entwickelt wurden, und Allzwecksysteme wie GPT-4 von OpenAI, die für eine Vielzahl von Aufgaben trainiert sind.

Während diese Systeme trainiert werden, um ehrlich zu sein, lernen sie durch ihr Training oft irreführende Tricks, weil sie effektiver sein können, als den richtigen Weg zu gehen.

"Im Allgemeinen glauben wir, dass KI-Täuschung entsteht, weil sich eine auf Täuschung basierende Strategie als der beste Weg herausgestellt hat, um bei der Trainingsaufgabe der gegebenen KI gut abzuschneiden. Täuschung hilft ihnen, ihre Ziele zu erreichen", sagte der Erstautor der Studie, Peter S. Park, ein Postdoktorand für existenzielle Sicherheit im Bereich KI am MIT, in einer Pressemitteilung.

Stellen Sie sich das vor, wenn wir wissen, dass KI-Justiz: England und Wales ermächtigen Richter, künstliche Intelligenz zu verwenden, um Urteile zu fällen

Metas CICERO, entwickelt für das Spiel Diplomacy. Während Meta sagt, dass es CICERO so trainiert hat, dass es "weitgehend ehrlich und hilfsbereit gegenüber seinen Gesprächspartnern" ist, hat es sich "als fachkundiger Lügner herausgestellt".

Der Chatbot GPT-4 gab vor, eine Sehbehinderung zu haben, um eine Aufgabe zu erledigen: einen Menschen einzustellen, um einen CAPTCHA-Test zu lösen.

Die Korrektur irreführender Modelle ist nicht einfach. Sobald KI-Modelle die Tricks der Täuschung gelernt haben, ist es für Sicherheitstrainingstechniken schwierig, sie umzukehren.

"Sie kamen zu dem Schluss, dass ein Modell nicht nur lernen kann, irreführendes Verhalten an den Tag zu legen, sondern dass Standard-Sicherheitstrainingstechniken, sobald dies der Fall ist, 'eine solche Täuschung nicht beseitigen' und 'einen falschen Eindruck von Sicherheit erwecken' könnten.

Das Papier fordert die politischen Entscheidungsträger auf, sich für eine stärkere KI-Regulierung einzusetzen, da irreführende KI-Systeme erhebliche Risiken für die Demokratie darstellen können."

Quelle: Thepeoplesvoice.tv

In einer Zeit systematischer „Big-Tech“-Zensur und weit verbreiteter institutioneller Korruption sind wahrheitssuchende Medien und alternative Sichtweisen von entscheidender Bedeutung, und Jede Art von Unterstützung hilft mehr, als Sie denken!

Hier kannst du den Kanal unterstützen:

👉🏻 KLICK

❤️ Vielen Dank ❤️

Nattokinase als Hilfe gegen Post-Vakzin-Beschwerden durch Spike Proteine

„Long-Covid“ ist nur ein anderer Name für Covid-Stichverletzungen, die aufgrund von parasitenähnlichen Spike-Proteinen bestehen bleiben, die das Gefäßsystem verstopfen und Organe angreifen

Kriegsüberlebender empfiehlt: 100 wichtige Gegenstände, zum Überleben in Krisen- und Katastrophenfällen