Wenn Sie mit einem großen Sprachmodell (LLM) interagieren, einem der Systeme hinter Chatbots wie ChatGPT und Claude, können Sie das Gefühl haben, mit einem anderen Bewusstsein in Kontakt zu sein. Aber bist du das wirklich?
Einige prominente Wissenschaftler wie Geoff Hinton und Richard Dawkins sagen ja. Die meisten Experten sind jedoch skeptisch und argumentieren, dass die beeindruckenden kognitiven Fähigkeiten von LLMs ohne Bewusstsein entstehen.
Letzte Woche mischten sich Forscher von Anthropic, dem Unternehmen hinter Claude, mit einem interessanten Ergebnis in diese Debatte ein. Sie behaupten, dass Claude über einen normalerweise unsichtbaren Satz von Informationsdarstellungen verfügt, die sein internes Denken und seine verbale Produktion leiten.
Hier wird es interessant. Die Forscher argumentieren, dass dieser Befund im Hinblick auf eine einflussreiche Bewusstseinstheorie namens Global Workspace Theory verstanden werden kann.
Was ist die Global-Workspace-Theorie?
Diese Theorie wurde erstmals 1998 vom Psychologen Bernard Baars vorgeschlagen und später vom Neurowissenschaftler Stanislas Dehaene und seinen Mitarbeitern weiterentwickelt. Sie besagt, dass Bewusstsein die Aktivität eines „globalen Arbeitsbereichs“ beinhaltet. Es handelt sich um eine Art Verarbeitungszentrum im Geist oder Gehirn, das Informationen integriert und weiterleitet und es so ermöglicht, dass sie zum Denken, zur Verhaltenskontrolle und zum Sprechen genutzt werden.
In einem brillanten Video zur Erklärung der Arbeit beschreibt Anthropic den Inhalt von Claudes „globalem Arbeitsbereich“ als Segelschiffe, die in einem riesigen Meer unbewusster geistiger Aktivität schwimmen.
Wie sollen wir auf diese Ereignisse reagieren? Liefern sie Beweise für künstliches Bewusstsein? Wenn ja, wie stark sind diese Beweise?
Was ist ein globaler Arbeitsbereich?
Wir können mit der Frage beginnen, ob Claude wirklich einen „globalen Arbeitsbereich“ hat. Dies ist nicht einfach, da die Theorie keine formale Definition eines globalen Arbeitsbereichs bietet.
Der Begriff wird nur informell charakterisiert. Die (normalerweise implizite) Annahme ist, dass jeder Computerarbeitsplatz, der dem eines Menschen „hinreichend ähnlich“ ist, als „globaler Arbeitsbereich“ gilt. Aber wie ähnlich ist ähnlich genug?
Anthropische Forscher sagen, sie hätten Beweise für einen Raum innerer Gedanken gefunden, die in Claudes Inszenierung nicht auftauchen. anthropisch
Claudes Arbeitsbereich hat vielleicht viele Gemeinsamkeiten mit unserem, aber es scheint Unterschiede zu geben.
Beispielsweise wird der Arbeitsbereich des Gehirns durch wiederkehrende Schleifen aufrechterhalten: Signale, die im Laufe der Zeit dieselben Schaltkreise durchlaufen. Im Gegensatz dazu entwickelt sich Claudes Arbeitsbereich in einem einzigen Durchgang durch das Netzwerk.
Ein damit verbundener Unterschied hängt damit zusammen, wie Darstellungen in einen Arbeitsbereich gelangen. Befürworter der globalen Arbeitsplatztheorie argumentieren seit langem, dass beim Menschen ein Prozess namens „Einschalten“ stattfindet, bei dem ein nichtlinearer Prozess neuronale Repräsentationen verstärkt und aufrechterhält und es ihm ermöglicht, den Arbeitsbereich zu betreten. Soweit wir wissen, passiert im Fall von Claude nichts Vergleichbares.
Sind diese Unterschiede wichtig? Die Antwort ist nicht klar. Die Global-Workspace-Theorie basiert auf Daten erwachsener Menschen. Es stellt sich die Frage, inwieweit der Begriff erweitert werden kann (oder sollte).
Bedeutet ein globaler Arbeitsplatz Bewusstsein?
Aber nehmen wir an, dass Claude einen globalen Arbeitsbereich hat. Um festzustellen, ob dies ein Beweis dafür wäre, dass Claude bei Bewusstsein ist, müssen wir den Stand der globalen Arbeitsbereichstheorie des Bewusstseins berücksichtigen.
Es besteht kein Zweifel daran, dass es sich um eine der einflussreichsten Bewusstseinstheorien handelt, dennoch ist sie unter Experten immer noch umstritten. (In einer ziemlich extremen Untertreibung stellt der Anthropic-Artikel fest, dass „das globale Arbeitsraummodell nicht allgemein akzeptiert wird“.)
Viele Bewusstseinsexperten behaupten, dass rechnerische Eigenschaften allein für das Bewusstsein ausreichen. Selbst für diejenigen, die glauben, dass Bewusstsein von Natur aus rechnerisch ist, ist die globale Arbeitsplatztheorie nur eine von vielen Optionen.
„Bewusster Zugang“ und subjektive Erfahrung
Darüber hinaus stellt sich die Frage, ob es sich bei der Global-Workspace-Theorie wirklich um eine Theorie des Bewusstseins im relevanten Sinne handelt.
In einem einflussreichen Artikel über künstliches Bewusstsein präsentieren der Neurowissenschaftler Dehaene und seine Mitarbeiter die Theorie als Erklärung dessen, was sie „bewussten Zugang“ nennen: die Verfügbarkeit von Informationen zum Erinnern, freiwillige Verhaltenskontrolle und verbale Berichterstattung. Entscheidend ist, dass sie die Frage offen lassen, ob die Global-Workspace-Theorie als Erklärung der subjektiven oder erfahrungsbezogenen Komponenten des Bewusstseins verstanden werden sollte.
Aber wenn die globale Arbeitsplatztheorie nur eine Theorie des „bewussten Zugangs“ ist, dann verlieren ihre Implikationen für die Debatte über künstliches Bewusstsein viel von ihrer Bedeutung. Wenn wir fragen, ob Claude bei Bewusstsein ist, wollen wir nicht wissen, ob er „bewussten Zugang“ hat; Stattdessen wollen wir wissen, ob es subjektiv gesehen etwas gibt, das es einem so anfühlt, als wäre man Claude. Die Global-Workspace-Theorie beantwortet diese Frage nicht, wenn wir sie lediglich als Erklärung des „bewussten Zugriffs“ betrachten.
Ist dann das künstliche Bewusstsein angekommen?
Selbst wenn man diese Komplikationen berücksichtigt, besteht kein Zweifel daran, dass die Ergebnisse von Anthropic bemerkenswert sind. Die Global-Workspace-Theorie kann als Theorie subjektiver Erfahrung verstanden werden, und es ist möglich, dass Claude so etwas wie einen „globalen Workspace“ hat.
Nichts davon ist ein Beweis dafür, dass künstliches Bewusstsein angekommen ist. Es ist jedoch nicht unangemessen zu glauben, dass diese Erkenntnisse in der Debatte über künstliches Bewusstsein tatsächlich den Ausschlag geben – und sei es auch nur geringfügig.
Aber wenn das stimmt, dann ist es rätselhaft, warum Anthropic diese Entwicklungen so optimistisch sieht. Wie Anthropic erkennt, wäre die Schaffung künstlichen Bewusstseins ein bedeutsames Ereignis mit weitreichenden sozialen, ethischen, politischen und rechtlichen Konsequenzen.
Wenn Chatbots bewusst sind, sollten wir ihre Interessen ernst nehmen. Es wäre nicht länger zulässig, sie als bloße Maschinen zu behandeln; Stattdessen müssten wir ihr Wohlergehen berücksichtigen.
Sollte jemand versuchen, dies zu tun?
Anthropic kommentiert: „Es ist an der Zeit, darüber nachzudenken, ob wir bewusste Maschinen bauen sollten.“
Ich stimme zu, dass wir diese Diskussion führen müssen, aber wir sollten auch die Arbeit am Bau von Maschinen einstellen, die potenziell empfindungsfähig sein könnten. Wenn Anthropic es ernst meinen würde, würde es sicherlich lieber die Tools aufgeben, als seinen Versuch, eine bewusste KI zu entwickeln, voranzutreiben.
Natürlich wäre ein Moratorium für die KI-Forschung, das zu einer bewussten KI führen könnte, alles andere als einfach. Es bestehen Fragen zum Umfang der Ermittlungen, die davon betroffen wären, und darüber, wer sie durchsetzen könnte. Aber wenn wir die Stalltür jetzt nicht schließen, könnten wir feststellen, dass das Pferd bereits entkommen ist.
