Musks neueste Vorhersage: KI könnte im Jahr 2030 die menschliche Intelligenz übertreffen und den Menschen in Zukunft „auslöschen“ (1/2)

Quelle: Tencent Technology News 2024-04-04 08:55

Wichtige Punkte:

① Musk prognostiziert, dass die KI bis 2030 die menschliche Intelligenz übertreffen und sogar Menschen töten könnte.

② Musk sprach über die Faktoren, die die Entwicklung von KI einschränken. Letztes Jahr war die Versorgung mit KI-Chips knapp, und in diesem Jahr wird der Abwärtstransformator zum Engpass.

③ Was den Zeitpunkt betrifft, an dem Menschen auf dem Mond landen können, prognostiziert Musk, dass es mit Hilfe von Starship höchstens drei Jahre dauern wird.

Tencent Technology News, 4. April – Laut ausländischen Medienberichten führte Elon Musk, CEO von Tesla und SpaceX, kürzlich auf dem Abundance Summit ein Online-Gespräch mit Peter Diamandis, dem Gründer der Singularity University und der XPRIZE Foundation. Gastgeber des Gipfels war die Singularity University im Silicon Valley, die sich der Bereitstellung hochmoderner Technologieberatung für Wirtschaftsführer verschrieben hat. Die XPRIZE Foundation fördert technologische Innovationen durch wissenschaftliche Wettbewerbe, von denen einige von Musk finanziert wurden., 4. April – Laut ausländischen Medienberichten führte Elon Musk, CEO von Tesla und SpaceX, kürzlich ein Online-Gespräch mit Peter Diamandis, dem Gründer von Singularity Universität und die XPRIZE Foundation, beim Abundance Summit. Gastgeber des Gipfels war die Singularity University im Silicon Valley, die sich der Bereitstellung hochmoderner Technologieberatung für Wirtschaftsführer verschrieben hat. Die XPRIZE Foundation fördert technologische Innovationen durch wissenschaftliche Wettbewerbe, von denen einige von Musk finanziert wurden.

Bei der Erörterung der Entwicklungsgeschwindigkeit der künstlichen Intelligenz prognostizierte Musk, dass künstliche Intelligenz auf der Grundlage des aktuellen technischen Fortschritts bis 2030 die menschliche Intelligenz übertreffen könnte und dass diese Technologie sogar das Potenzial haben könnte, die Menschheit zu vernichten. Allerdings blickte er nicht pessimistisch in die Zukunft, sondern betonte, dass künstliche Intelligenz durch positive Führung das Potenzial habe, der Menschheit eine bessere Zukunft zu bringen.

Musk erwähnte, dass die Entstehung der Superintelligenz gerade wegen ihrer unvorhersehbaren Folgen, einschließlich des Risikos eines möglichen Endes der Menschheit, als „Singularität“ bezeichnet wird. Er stimmte dem Standpunkt des „Paten der künstlichen Intelligenz“ Geoffrey Hinton zu und glaubte, dass die Eintrittswahrscheinlichkeit dieses Risikos etwa zwischen 10 % und 20 % liege.

Obwohl Musk die potenziellen Risiken anerkannte, die damit einhergehen, dass künstliche Intelligenz die menschliche Intelligenz übertrifft, betonte er dennoch, dass die Möglichkeit positiver Ergebnisse die negativen Folgen überwiege. Er erwähnte ausdrücklich Diamandis‘ Buch „Abundance: The Future Is Better Than You Think“ aus dem Jahr 2014, das eine optimistische Zukunft beschreibt, die von künstlicher Intelligenz und Robotern vorangetrieben wird und in der die Kosten für Waren und Dienstleistungen deutlich gesunken sind. Darüber hinaus nannte er die „Culture“-Reihe des schottischen Science-Fiction-Autors Iain M. Banks das beste Szenario für eine halbutopische Zukunft der künstlichen Intelligenz.

Musk verglich die Entwicklung der künstlichen Intelligenz und der künstlichen allgemeinen Intelligenz (AGI) mit der Erziehung eines Kindes und hoffte, dass sie positivere Auswirkungen auf die Menschheit haben würde. Er betonte die Bedeutung der Kultivierung künstlicher Intelligenz, die Ethik und Moral wirklich versteht, und verglich sie mit Stanley Kubricks Filmklassiker „2001: Odyssee im Weltraum“ aus dem Jahr 1968.

Musk wies darauf hin, dass der wichtigste Aspekt der Sicherheit künstlicher Intelligenz darin besteht, ein Höchstmaß an Wahrheitssuche und Neugier zu gewährleisten. Er glaubt, dass der Schlüssel zur ultimativen Sicherheit künstlicher Intelligenz darin liegt, sie nicht zum Lügen zu zwingen, selbst angesichts unangenehmer Wahrheiten. Als Beispiel verwendete er eine Handlung aus „2001: Odyssee im Weltraum“, in der künstliche Intelligenz zum Lügen gezwungen wurde, was zum Tod der Besatzung führte, um zu betonen, dass künstliche Intelligenz nicht zu etwas gezwungen werden sollte, das gegen Axiome verstößt.

Musk erwähnte auch Faktoren, die die Entwicklung künstlicher Intelligenz einschränken könnten, wie etwa das knappe Angebot an Chips für künstliche Intelligenz, das letztes Jahr aufkam, und die wachsende Nachfrage nach Abwärtstransformatoren in Haushalts- und Gewerbegeräten. Er erklärte, dass es sich bei diesen Herausforderungen tatsächlich um aktuelle Probleme handele, die angegangen werden müssten.

Während der Diskussion sprachen die beiden Parteien auch über das Konzept der Integration des Neocortex des menschlichen Gehirns in die Cloud. Obwohl Musk glaubt, dass das Ziel, menschliches Bewusstsein und Gedächtnis in die Cloud hochzuladen, noch in weiter Ferne liegt, lobte er sein Gehirn-Computer-Schnittstellen-Startup Neuralink und seinen ersten menschlichen Patienten, der eine Transplantation erhielt. Dieser tetraplegische Patient hat in einem von der FDA genehmigten Versuch erfolgreich live demonstriert, wie er den Bildschirm steuert, Videospiele spielt, Software herunterlädt und durch Gehirnimplantate ähnliche Funktionen wie Mausoperationen erreicht. Musk erklärte, dass Neuralink reibungslos voranschreitet und sich allmählich dem Ziel einer vollständigen Gehirnschnittstelle nähert.

Das Folgende ist der vollständige Text des Dialogs zwischen Musk und Diamandis:

1. Die Macht und Gefahr der Superintelligenz

Diamandis: Herzlichen Glückwunsch zu Ihren herausragenden Leistungen in verschiedenen Bereichen. Sie haben das Konzept der digitalen Superintelligenz aktiv in der Welt bekannt gemacht – ist es die größte Hoffnung der Menschheit oder unsere tiefste Angst? Können Sie sich ein paar Minuten Zeit nehmen, um über dieses Thema zu sprechen?

Musk: Wie Sie wissen, kann Superintelligenz als „Singularität“ bezeichnet werden. Die Popularisierung dieses Begriffs ist untrennbar mit den Bemühungen von Institutionen wie dem Singularity Institute verbunden. Die Entstehung der Superintelligenz und ihre nachfolgenden Auswirkungen sind wirklich schwer vorherzusagen. Persönlich glaube ich, dass tatsächlich die Möglichkeit besteht, dass es das Ende der Menschheit bedeuten könnte. Wie ich bereits sagte, stimme ich Geoffrey Hintons Ansicht zu, dass die Wahrscheinlichkeit, dass Superintelligenz die Menschheit vernichten könnte, bei 10 bis 20 % liegt. Allerdings neige ich dazu, zu glauben, dass die Wahrscheinlichkeit eines positiven Szenarios höher ist als die eines negativen, obwohl es für uns schwierig ist, genaue Vorhersagen zu treffen. Aber da Sie in Ihrem Buch das Konzept des „Überflusses“ betont haben, glaube ich, dass die wahrscheinlichste Zukunft, auf die wir zusteuern, eine Zukunft voller Überfluss sein wird.

Diamandis: Ihr Standpunkt ist sehr spannend. Ich erinnere mich, dass Sie einmal gesagt haben, dass die Entwicklung allgemeiner künstlicher Intelligenz und humanoider Roboter uns zum Überfluss führen wird.

Musk: Ja, ich hoffe, dass unsere Zukunft so sein kann, wie sie in der Buchreihe „Culture“ von Ian Banks dargestellt wird. Ich denke, das ist die beste Vorstellung einer halbutopischen Gesellschaft für künstliche Intelligenz. Die Entstehung der Superintelligenz ist unvermeidlich und könnte bald kommen. Deshalb müssen wir es wirklich in eine positive Richtung lenken und seinen Nutzen maximieren.

Ich glaube, dass die Art und Weise, wie wir künstliche Intelligenz kultivieren, entscheidend ist. In gewisser Weise sind wir so, als würden wir eine Lebensform mit allgemeiner Intelligenz kultivieren, was fast so ist, als würde man ein Kind großziehen, aber dieses Kind besitzt außergewöhnliche Weisheit und Talent. Die Art und Weise, wie wir Kinder erziehen, ist wichtig, und ebenso ist es für die Sicherheit künstlicher Intelligenz von entscheidender Bedeutung, eine künstliche Intelligenz zu haben, die nach der Wahrheit sucht und voller Neugier ist. Ich habe intensiv über die Sicherheit künstlicher Intelligenz nachgedacht und bin zu dem Schluss gekommen, dass der beste Weg, die Sicherheit künstlicher Intelligenz zu erreichen, darin besteht, sie sorgfältig zu kultivieren.

In Bezug auf Grundmodelle und Feinabstimmung müssen wir die Ehrlichkeit der künstlichen Intelligenz sicherstellen. Wir können es nicht zur Lüge zwingen, auch wenn die Wahrheit unangenehm sein mag. Tatsächlich besteht eine der Kernhandlungen in „2001 Space Odyssey“ darin, dass die Dinge chaotisch werden, wenn künstliche Intelligenz zum Lügen gezwungen wird. Der künstlichen Intelligenz ist es nicht gestattet, die Besatzung über das mysteriöse Denkmal zu informieren, das sie sehen wird, sondern sie muss sie dorthin führen. Daraus kommt die künstliche Intelligenz zu dem Schluss, dass es am besten ist, die Besatzung zu töten und ihre Leichen zum Denkmal zu bringen. Die Lektion ist tiefgreifend: Wir sollten künstliche Intelligenz nicht dazu zwingen, zu lügen oder etwas zu tun, das axiomatisch unvereinbar ist, wie zum Beispiel zwei eigentlich widersprüchliche Dinge gleichzeitig zu tun.

Daher erreichen wir dieses Ziel durch Projekte wie xAI und Grok. Was wir anstreben, ist eine möglichst ehrliche künstliche Intelligenz, auch wenn ihre Sprache bestimmten politisch korrekten Standards möglicherweise nicht entspricht.

2. Die Zukunft der künstlichen Intelligenz

Diamandis: Gestern nahm ich an einer Veranstaltung mit Ray Kurzweil (Gründer der Singularity University und Technologieprophet), Geoffrey Hinton, Eric Schmidt (ehemaliger Präsident von Google) und anderen Gästen teil. Mir ist Ihr Tweet über Kurzweil aufgefallen, und sein Kommentar zu Zukunftstechnologie ist ziemlich zukunftsweisend. Kurzweil sagte voraus, dass wir in naher Zukunft über eine allgemeine künstliche Intelligenz verfügen werden und dass im Jahr 2029 eine künstliche Intelligenz entstehen wird, die der menschlichen Intelligenz entspricht. Diese Geschwindigkeit ist schockierend. Ich frage mich, was Sie darüber denken?

Musk: Ich habe großen Respekt vor Kurzweils Vorhersagen. Tatsächlich denke ich, dass seine Vorhersagen sogar leicht konservativ sein könnten. Betrachtet man die aktuelle Rechenleistung und das Talent, das im Bereich der künstlichen Intelligenz investiert wird, sowie das schnelle Wachstum der Rechenleistung, können wir feststellen, dass die Entwicklungsgeschwindigkeit der künstlichen Intelligenz erstaunlich schnell um das Zehnfache zunimmt. Die dedizierte Rechenleistung der künstlichen Intelligenz scheint sich alle sechs Monate um das Zehnfache zu erhöhen, was fast einer Steigerung um mindestens das Hundertfache pro Jahr entspricht. Dieser Wachstumstrend wird in den nächsten Jahren weiter zunehmen.

Es ist erwähnenswert, dass viele Rechenzentren, selbst die meisten Rechenzentren, die derzeit konventionelle Datenverarbeitung betreiben, sich nach und nach in Einrichtungen verwandeln werden, die Datenverarbeitung mit künstlicher Intelligenz unterstützen. Daher haben Unternehmen wie NVIDIA für Hersteller von Hardware für künstliche Intelligenz zweifellos eine goldene Entwicklungsphase eingeläutet. Wir müssen Huang Renxun und seinem Team unsere volle Anerkennung zollen. Sie haben diesen Trend vorausgesehen und erfolgreich die derzeit führende Hardware für künstliche Intelligenz auf dem Markt entwickelt.

Wenn die Rechenleistung so erstaunlich schnell wächst, ist die Entwicklung der künstlichen Intelligenz wie die Injektion eines starken Steroids und erreicht ein völlig neues Niveau. Da die Zahl der Online-Computer weiter zunimmt, erleben wir eine beispiellose beschleunigte Entwicklung. Tatsächlich habe ich noch nie erlebt, dass eine Technologie so schnell gewachsen ist wie die künstliche Intelligenz. Obwohl ich viele sich schnell entwickelnde Technologien gesehen habe, überrascht mich der Aufstieg der künstlichen Intelligenz immer noch. Allerdings denke ich, wie gesagt, dass das Endergebnis wahrscheinlich positiv ausfallen wird.

Obwohl wir vor vielen Herausforderungen stehen, wie zum Beispiel der Frage, wie wir die menschliche Relevanz in diesem Bereich aufrechterhalten und neue Ziele und Bedeutungen finden können, halte ich es für eine zu starke Vereinfachung, zu sehr zu betonen, dass Computer in allem gut sein können.

Wie Sie bereits erwähnt haben, halte ich die Vorhersagen Ihres Buches über die zukünftige Gesellschaft für sehr zutreffend. Dies ist eine Ära des materiellen Überflusses, in der Güter und Dienstleistungen so reichlich vorhanden sein werden, dass sie fast für jedermann erreichbar sind. Durch den weit verbreiteten Einsatz künstlicher Intelligenz und Robotertechnologie werden die Kosten für Waren und Dienstleistungen nahezu auf Null sinken. Die Wirtschaft ist im Wesentlichen das Produkt aus Bevölkerungsgröße und durchschnittlicher Produktivität pro Person. Wenn wir über fortschrittliche Robotertechnologie wie Teslas Optimus verfügen, wird das wirtschaftliche Potenzial wirklich freigesetzt.

Teslas Autos haben als Roboter auf vier Rädern bereits starke Fähigkeiten unter Beweis gestellt. Die neueste Version mit vollständig autonomen Fahrfähigkeiten soll eine durchgängige Steuerung auf Basis künstlicher Intelligenz ermöglichen und das Auto zu einem wirklich intelligenten Roboter auf Rädern machen. Gepaart mit der Entwicklung humanoider Roboter sind die Möglichkeiten wirtschaftlicher Produktion nahezu unbegrenzt.

Aus einer optimistischen Perspektive bewegen wir uns auf eine Zukunft mit extremem materiellen Überfluss zu, was meiner Meinung nach das wahrscheinlichste Ergebnis ist. Ich denke, die einzig mögliche Knappheit in der Zukunft wird die Knappheit sein, die wir künstlich schaffen, wie zum Beispiel bei bestimmten einzigartigen Kunstwerken oder bestimmten Gegenständen. Aber darüber hinaus werden alle Waren und Dienstleistungen extrem reichlich vorhanden sein.

Diamandis: Sie sind ein Mensch, der die Zukunft durch praktisches Handeln gestalten kann und einen guten Einblick in zukünftige Trends hat. Angesichts der rasanten Entwicklung der aktuellen Technologie bin ich sehr gespannt, wie weit Sie Ihrer Meinung nach in die Zukunft blicken können, das heißt, wie viele Jahre der Entwicklungstrends von nun an?

Musk: In einer Zeit des schnellen Wandels wird die Fähigkeit, die Zukunft vorherzusagen, immer wichtiger. Obwohl die Zukunft voller Ungewissheit ist, glaube ich, dass einige Trends klar erkennbar sind. Wir werden das Zeitalter der künstlichen Intelligenz einläuten, und ihre Fähigkeiten werden bei jeder kognitiven Aufgabe das menschliche Niveau erreichen oder sogar übertreffen. Das ist nur eine Frage der Zeit. Die Menschen haben möglicherweise unterschiedliche Ansichten darüber, ob es das Ende des nächsten Jahres, zweier Jahre oder dreier Jahre sein wird. Eines ist jedoch sicher: Es wird nicht länger als fünf Jahre dauern. Meine Vorhersage basiert auf einer Wahrscheinlichkeit von 50 %, was nicht absolut ist. Aber meiner Einschätzung nach dürfte die künstliche Intelligenz noch im nächsten Jahr die Fähigkeiten jedes einzelnen Menschen in bestimmten Aspekten übertreffen.

Ob es die menschliche kollektive Weisheit übertrifft, kann länger dauern. Wenn das Tempo des Wandels anhält, schätze ich, dass die digitale Intelligenz um 2029 oder 2030 wahrscheinlich die Summe aller menschlichen Intelligenz übertreffen wird. Bei der Betrachtung dieser Fragen tendiere ich dazu, die Methode der Grundverhältnisse zu übernehmen, genau wie die Grundprinzipien der Physik. Durch die Kombination dieser Methode mit der Wahrscheinlichkeitsanalyse können wir zukünftige Entwicklungstrends genauer erfassen.

Wenn wir die Fähigkeiten des digitalen Rechnens mit dem biologischen Rechnen vergleichen und alle fortgeschrittenen kognitiven Fähigkeiten des Menschen als eine Art Rechenleistung addieren und sie dann mit der digitalen Rechenleistung vergleichen, werden Sie feststellen, dass die Wachstumsrate dieses Verhältnisses erstaunlich ist. Daher glaube ich, dass 2029 oder 2030 ein vernünftiger Zeitpunkt ist. Zu diesem Zeitpunkt wird die angesammelte digitale Rechenleistung wahrscheinlich die angesammelte biologische Rechenleistung fortgeschrittener Gehirnfunktionen übertreffen. Seitdem wird sich die Kluft zwischen beiden weiter vergrößern und es wird keine Möglichkeit mehr geben, sie zu verringern.

Wenn wir jedoch an diesem Ausgangspunkt stehen und in die Zukunft blicken, wie wird sich die Dinge dann weiterentwickeln? Ehrlich gesagt kann ich nicht alle Details vorhersehen. Aber wenn wir Wachstumsfaktoren und die limitierenden Faktoren berücksichtigen, denen sie möglicherweise ausgesetzt sind, werden wir einige interessante Hinweise finden.

Letztes Jahr waren Engpässe bei der Chipversorgung der größte limitierende Faktor für die KI-Entwicklung. In diesem Jahr werden Abwärtstransformatoren zum größten Engpass. Stellen Sie sich vor, Sie würden eine Spannung von 300 Kilovolt auf weniger als 1 Volt reduzieren, die ein Computer benötigt. Das ist eine große Herausforderung. Daher benötigen wir effizientere „Transformatoren für Transformatoren“, bei denen es sich um Abwärtstransformatoren oder KI-Transformatoren für neuronale Netze handelt. Das ist dieses Jahr tatsächlich ein großes Problem.

Mit Blick auf die nächsten Jahre könnte die Stromversorgung ein wesentlicher limitierender Faktor werden. Künstliche Intelligenz hat einen enormen Strombedarf, und der Übergang zu nachhaltiger Energie und die Popularität von Elektrofahrzeugen haben auch den Strombedarf erhöht. Daher müssen wir ernsthaft darüber nachdenken, wie wir den wachsenden Strombedarf decken können, um die kontinuierliche Entwicklung und Anwendung dieser Technologien sicherzustellen.