Niemand weiß, wie KI tatsächlich funktioniert

„Unsere theoretische Analyse ist weit von dem entfernt, was diese Modelle leisten können.“

Geheimnisvolle Maschine

Die KI-Branche explodierte Ende 2022 nach dem großen Erfolg der ChatGPT-Veröffentlichung von OpenAI im November desselben Jahres. Generative KI-Tools – von Chatbots über lebendige Musik- und Tongeneratoren bis hin zu Bild- und Videoerstellern und mehr – begeistern weiterhin das Publikum, während Fortschritte in den Bereichen KI und maschinelles Lernen weiterhin in Bereichen wie dem Gesundheitswesen und der Arzneimittelforschung Anwendung finden.

Es gibt nur ein Problem: Selbst die Leute, die all diese KI herstellen, verstehen nicht ganz, wie sie wirklich funktioniert.

„Offensichtlich sind wir nicht völlig unwissend“, sagte Mikhail Belkin, Informatiker der UC San Diego Erzählen MIT Technology Review. „Aber unsere theoretische Analyse ist weit entfernt von dem, was diese Modelle leisten können.“

Tatsächlich, als Massachusetts Institute of Technology Er erklärt, dass viele KI-Modelle beliebt sind BlackboxenKurz gesagt bedeutet dies, dass der Algorithmus zwar nützliche Ergebnisse liefert, den Forschern jedoch nicht klar ist, wie er tatsächlich dorthin gelangt ist. Das vielleicht Das ist schon seit Jahren soKI-Systeme stellen häufig theoretische, auf Statistiken basierende Modelle in Frage. Unabhängig davon schreitet die KI-Branche voran und treibt sie voran Milliarden von Investitionsgeldern Und ein großer Anteil halbfanatischer Überzeugung. (Und natürlich Siehe C-Suite große Teile der Belegschaft zu eliminieren.)

Mit anderen Worten: KI ist bereits überall. Da sie jedoch immer stärker in das menschliche Leben integriert wird, versuchen die Wissenschaftler hinter der Technologie immer noch, vollständig zu verstehen, wie sie lernt und funktioniert.

Spaghetti, wissen Sie, an der Wand

Einige Experten führen den Mangel an Verständnis auf die aufkeimende Natur des Fachgebiets zurück und argumentieren, dass die Neuheit der KI bedeutet, dass Forscher manchmal von experimentellen Erkenntnissen und Ergebnissen aus rückwärts arbeiten müssen.

„Dies sind aufregende Zeiten“, sagte Boaz Barak, Informatiker an der Harvard University. Massachusetts Institute of Technology. „Viele Leute auf diesem Gebiet vergleichen es oft mit der Physik zu Beginn des 20. Jahrhunderts.“

„Wir haben viele experimentelle Ergebnisse, die wir nicht vollständig verstehen, und wenn man ein Experiment durchführt, ist man oft überrascht“, fuhr Burak fort.

Keine Garantien

Wenn dieses minimale Verständnis dieser Branche überhaupt arrogant klingt, dann deshalb, weil es so ist.

Natürlich sind Experimente und Unsicherheit im wissenschaftlichen Prozess selbstverständlich, wenn nicht sogar inhärent. Aber KI-Modelle sind nicht mehr auf die metaphorischen Reagenzgläser des Silicon Valley beschränkt; Die KI-Branche ist ein lukrativer Finanzriese, und wie bei anderen Technologien könnte auch der bekannte Ansatz „Schnell handeln und Dinge kaputt machen“, zu dem viele in der Branche übergegangen sind, durchaus funktionieren. Gegenwärtig Herausforderungen Die Straße runter.

Immerhin, wie Belkin sagte Massachusetts Institute of Technology, Garantien sind wichtig. Und hier? Sie sind noch nicht ganz da.

„Ich bin sehr an Schutzmaßnahmen interessiert“, sagte Belkin dem Bericht zufolge. „Wenn man erstaunliche Dinge tun kann, sie aber nicht wirklich kontrollieren kann, ist das nicht großartig.“

Er fügte hinzu: „Was nützt ein Auto, das 300 Meilen pro Stunde fahren kann, wenn das Lenkrad vibriert?“

Mehr über AI-Vibrationslenkräder: Forscher entwickeln KI-gestützte Malware, die sich von selbst verbreitet