Auf dem britischen Gipfel warnen führende Politiker der Welt, dass KI „katastrophalen“ Schaden anrichten könnte

Im Jahr 1950 veröffentlichte Alan Turing, der begabte britische Mathematiker und Codeknacker, ein Buch Akademische Arbeit. Er schrieb, sein Ziel sei es, sich mit der Frage auseinanderzusetzen: „Können Maschinen denken?“

Die Antwort umfasst etwa 12.000 Wörter. Aber er endet kurz und bündig: „Wir können nur eine kurze Distanz nach vorne blicken, aber wir sehen, dass es noch viel zu tun gibt.“

Mehr als sieben Jahrzehnte später fasst dieses Gefühl die Stimmung vieler politischer Entscheidungsträger, Forscher und Technologieführer zusammen, die am Mittwoch in Großbritannien an einem KI-Sicherheitsgipfel teilnahmen, von dem Premierminister Rishi Sunak hofft, dass er das Land in eine führende Position im globalen Wettlauf um die Nutzung bringen wird und regulieren künstliche Intelligenz. Intelligenz.

Am Mittwochmorgen veröffentlichte seine Regierung ein Dokument mit dem Titel „Bletchley-Erklärungunterzeichnet von Vertretern der 28 an der Veranstaltung teilnehmenden Länder, darunter die Vereinigten Staaten und China, warnte vor den Risiken, die von fortschrittlicheren „Grenz“-KI-Systemen ausgehen.

„Es besteht das Potenzial für erhebliche, sogar katastrophale Schäden, ob absichtlich oder unabsichtlich, die sich aus den kritischsten Fähigkeiten dieser KI-Modelle ergeben“, heißt es in der Ankündigung.

„Viele der Risiken, die sich aus KI ergeben, sind von Natur aus internationaler Natur und werden daher am besten durch internationale Zusammenarbeit angegangen. Wir wollen umfassend zusammenarbeiten, um eine menschenzentrierte, vertrauenswürdige und verantwortungsvolle KI zu gewährleisten.“

Das Dokument enthielt jedoch keine konkreten politischen Ziele. Ein zweites Treffen soll innerhalb von sechs Monaten in Südkorea und ein drittes innerhalb eines Jahres in Frankreich stattfinden.

Seit der Einführung von ChatGPT im letzten Jahr, einem menschenähnlichen Chatbot, der zeigte, wie sich die neuesten Modelle auf leistungsstarke und unerwartete Weise weiterentwickeln, haben Regierungen schnell auf die Risiken reagiert, die durch die sich schnell entwickelnde Technologie entstehen.

Künftige Generationen von KI-Systemen könnten die Diagnose von Krankheiten beschleunigen, zur Bekämpfung des Klimawandels beitragen und Herstellungsprozesse rationalisieren, sie bergen jedoch auch erhebliche Risiken in Bezug auf Arbeitsplatzverluste, Desinformation und nationale Sicherheit. Ein Bericht an die britische Regierung letzte Woche Er warnte, dass fortschrittliche KI-Systeme „böswilligen Akteuren dabei helfen könnten, Cyberangriffe durchzuführen, Desinformationskampagnen durchzuführen und biologische oder chemische Waffen zu entwickeln“.

Herr Sunak hat die Veranstaltung dieser Woche, die Regierungen, Unternehmen, Forscher und Gruppen der Zivilgesellschaft zusammenbringt, als Gelegenheit beworben, mit der Entwicklung globaler Sicherheitsstandards zu beginnen.

Der zweitägige Gipfel in Großbritannien findet in Bletchley Park statt, einem ländlichen Gebiet 50 Meilen nördlich von London, wo Herr Turing dabei half, den von den Nazis im Zweiten Weltkrieg verwendeten Enigma-Code zu knacken. Die Website gilt als einer der Geburtsorte des modernen Computing und ist eine bewusste Anspielung auf die Hoffnungen des Premierministers, dass Großbritannien im Mittelpunkt einer weiteren weltweit führenden Initiative stehen wird.

Ian Hogarth, ein von Herrn Sunak ernannter Technologieunternehmer und Investor, sagte, Bletchleys Film sei „insofern eindrucksvoll, als er einen sehr entscheidenden Moment in der Zeit darstellt, in dem große Führungsstärke von der Regierung verlangt wurde, aber auch einen Moment, in dem die Informatik im Mittelpunkt stand“. Die Regierung führen Task Force für Risiken im Bereich der künstlichen IntelligenzWer hat bei der Organisation des Gipfels geholfen? „Wir müssen zusammenkommen und uns auf einen klugen Weg nach vorne einigen.“

Im Beisein von Elon Musk und anderen Technologiemanagern hielt König Charles III. bei der Eröffnungssitzung eine Videoansprache, die im Buckingham Palace aufgezeichnet wurde, bevor er diese Woche zu einem Staatsbesuch nach Kenia aufbrach. „Wir erleben einen der größten Technologiesprünge in der Geschichte menschlichen Unterfangens“, sagte er. „Es besteht ein klares Gebot, sicherzustellen, dass diese sich schnell entwickelnde Technologie sicher und geschützt bleibt.“

Vizepräsidentin Kamala Harris und Handelsministerin Gina Raimondo nahmen im Namen der Vereinigten Staaten an den Treffen teil.

Wu Zhaohui, Chinas Vizeminister für Wissenschaft und Technologie, sagte den Teilnehmern, dass Peking bereit sei, „den Dialog und die Kommunikation“ mit anderen Ländern zum Thema KI-Sicherheit zu stärken. China entwickle eine eigene KI-Governance-Initiative, sagte er und fügte hinzu, dass die Technologie „unsicher, unerklärlich und nicht transparent“ sei.

In einer Rede am Freitag ging Herr Sunak auf die Kritik ein, die er von China-Falken an der Anwesenheit einer Delegation aus Peking erhalten hatte. „Ja, wir haben China eingeladen„, sagte er. „Ich weiß, dass es diejenigen gibt, die sagen, sie hätten außen vor bleiben sollen. Aber es kann keine ernsthafte KI-Strategie geben, ohne zumindest zu versuchen, alle führenden KI-Mächte der Welt einzubeziehen.“

Da sich die Entwicklung führender KI-Systeme auf die Vereinigten Staaten und eine kleine Anzahl anderer Länder konzentriert, sagten einige Teilnehmer, dass Vorschriften die globalen Auswirkungen der Technologie berücksichtigen sollten. Rajeev Chandrasekhar, der Technologieminister, der Indien vertritt, sagte, die Politik sollte von „einer Koalition von Ländern und nicht nur einem Land für zwei“ ausgearbeitet werden.

„Indem wir zulassen, dass Innovationen die Regulierung übertreffen, machen wir uns anfällig für die Toxizität, Fehlinformationen und Waffen, die wir heute online sehen, repräsentiert durch soziale Medien“, sagte er.

An der Konferenz nahmen Führungskräfte führender Technologie- und KI-Unternehmen teil, darunter Anthropic, Google DeepMind, IBM, Meta, Microsoft, Nvidia, OpenAI und Tencent. Es wurden auch Vertreter einer Reihe zivilgesellschaftlicher Gruppen entsandt, darunter das britische Ada Lovelace Institute und die Algorithmic Justice League, eine gemeinnützige Organisation in Massachusetts.

Ein überraschender Schritt, Herr Sunak Bekannt geben Am Montag kündigte er an, dass er nach dem Ende des Gipfels am Donnerstag an einem Live-Interview mit Herrn Musk auf seiner Social-Media-Plattform X teilnehmen werde.

Einige Analysten glauben, dass die Konferenz eher symbolisch als inhaltlich sein wird, da eine Reihe wichtiger politischer Führer fehlen werden, darunter Präsident Biden, der französische Präsident Emmanuel Macron und der deutsche Bundeskanzler Olaf Scholz.

Viele Regierungen treiben die Verabschiedung eigener Gesetze und Vorschriften voran. Herr Biden kündigte diese Woche eine Durchführungsverordnung an, die KI-Unternehmen verpflichtet, nationale Sicherheitsrisiken zu bewerten, bevor sie ihre Technologie der Öffentlichkeit zugänglich machen. Das KI-Gesetz der EU, das innerhalb weniger Wochen fertiggestellt werden könnte, stellt einen weitreichenden Versuch dar, die Bürger vor Schaden zu schützen. China geht auch hart gegen den Einsatz von KI vor, einschließlich der Überwachung von Chatbots.

Großbritannien, wo es viele Universitäten gibt, an denen KI-Forschung betrieben wird, hat einen eher unkomplizierten Ansatz gewählt. Die Regierung ist der Ansicht, dass die aktuellen Gesetze und Vorschriften vorerst ausreichen, und kündigt gleichzeitig die Gründung eines neuen KI-Sicherheitsinstituts an, das neue Modelle bewerten und testen soll.

Herr Hogarth, dessen Team verhandelt hat Früher Zugang Er glaubt, dass Großbritannien eine wichtige Rolle dabei spielen kann, wie Regierungen „die Vorteile dieser Technologien nutzen und sie mit Schutzmaßnahmen umgeben“ können.

In seiner Rede letzte Woche betonte Herr Sunak, dass Großbritanniens Ansatz hinsichtlich der potenziellen Risiken der Technologie darin bestehe, „keine überstürzte Regulierung vorzunehmen“.

„Wie können wir logische Gesetze für etwas schreiben, das wir noch nicht vollständig verstehen?“ Er hat gesagt.