Nach gesundheitlichem Schock, grippalem Schleudertrauma und Festtagsterror I am back again und will hier auf einige Kommentare aus dem letzten Jahr antworten. Möge es einer fruchtbaren, aber vor allem zivilen Diskussion dienen.
Gehen wir mal einige der angesprochenen Punkte einzeln durch:
*Die Problematik des „Mems“.
Seit seinem Auftauchen bei Dawkins konnte ich mich nie damit anfreunden den Begriff systematisch zu benutzen. Eingang in die sozialwissenschaftliche Werkzeugkiste hat er auch nicht gefunden. Etwas rumschnüffeln ergibt folgendes:
Why memetics per se has failed to produce substantive results. An dem Punkt kann jeder weitersuchen, der daran interessiert ist den Begriff weiterhin als erkenntnisförderndes Werkzeug der Sozialwissenschaften zu benutzen. Nur so viel am Rande: Der Artikel ist 2005 im „Journal of Memetics “ erschienen, in dessen Advisory Board ein gewisser Herr Dawkins sitzt. Oder sass, denn der oben zitierte Artikel ist der letzte des Journal of Memetics. RIP? – Gehostet wird (wurde?) das Journal of Memetics übrigens von Prof. Francis Heylighen aus Brüssel. Und der ist wiederum in der Singularitätsproblematik mit seiner Principia Cybernetica seit 1993 auffällig geworden. 1993 hat Kurzweil noch Keyboards gebastelt. Ts ts…ich mein ja nur.
Ich könnte vorschlagen anstatt das Totschlagargument „Mem“ in den Ring zu werfen (schliesslich ist irgendwie alles wischiwasschi ein Mem: Web2.0, der Traum vom Fliegen (siehe zB Leonardo, den alten Oberspinner), Menschen auf den Mond…), sich mit den jeweiligen Sachfragen auseinanderzusetzen. So wie zB die SEMA-Tech. Oder Peter Norvig. Oder eben auch Yudkowsky. Jemanden als Egomanen abzutun hilft ja recht wenig. Oder werden die Verdienste von Craig Venter um das Human Genom oder die synthetische Biologie dadurch geringer, das sein Ego durch keine Tür passt und er Pudel toll findet? Man stelle sich vor, man würde einem großspurigen Herrn Venter im Jahre 1985 begegnen, lange vor seinen geschichtsträchtigen Leistungen! Nun gut…
Womit wir bei der Gleichsetzung von Yudkosky oder Kurzweil mit „technologischer Singularität“ wären. Das kann dem unbescholtenen Zuschauer gerade im Fall Kurzweil so erscheinen, aber dem ist ja nicht so. Zu Kurzweil habe ich mich hier des öfteren schon geäussert und sehe das eigentlich genau so wie Peter. Ach,was sag ich. Ich erinnere mich an ein Gespräch mit Herrn M. S. aus D. (Grimmepreisträger 2007), ich glaube im Jahre 1998 an einem lauen Sommerabend im Malkastenpark, wo wir nicht begriffen warum Herr Kurzweil so viel Lärm macht, aber seine eigenen proklamierten Trends damals selbst noch nicht begriff. Irgendwie ein ekelhafter Prozess, denn wie wir alle wissen hat er zwar 15 Jahre länger als zB Vernor Vinge gebraucht, aber mit der Macht seiner PR-Maschine den Begriff und seine Wahrnehmung in der Öffentlichkeit komplett mit seiner Person in Verbindung gebracht. Niemand redet da von I. J. Good, der den wesentlichen Punkt einer „Intelligence Explosion“ im Falle einer rekursiv sich verbessernden AI schon 1965 in einem Artikel im New Scientist gesehen hat. Kurzweil?! Pah!
So, was war da noch? Hm, ja der Wunsch von Andreas Stuhlmüller nach mehr Meta. Den kann ich auch nicht so richtig nachvollziehen. Was Aussagen zu einer jeden Methode in Fragen der Zukunft anbelangt: Auch dazu meine ich mich seit Jahren hinreichend geäussert zu haben. Der ganze Kram kann nie den Ansprüchen einer popperschen Methodik genügen. Ist allenfalls naiver Induktionismus wie Alan F. Chalmers das nennt. Bei aller Wahrheit der Prämissen, folgt die Wahrheit der Konklusionen nie logisch zwingend, sondern nur mit einer gewissen Wahrscheinlichkeit. Und ist im schlimmsten Falle, wie bei Kurzweil (allerdings nicht bei Yudkowsky) mit nur einem Szenario ausgestattet, was, wie wir vom Captain Bruce wissen, unseriös ist. Darum betone ich immer und hier leicht gelangweilt nochmal: Die technologische Singularität ist eines von vielen Szenarien, die alle mit einer uns unbekannten Wahrscheinlichkeit gewichtet sind. So betrachtet ist die Klimadiskussion definitiv unseriöser als die Singularitätsdiskussion, weil der Diskurs um die Singularität immer auch im Bewusstsein der anderen, denkbaren Szenarien geführt wird. Siehe Vernor Vinge himself (Vortrag über Zukunft OHNE Singularität), oder ausführlicher bei Nick Bostrom und seine Palette an Risiken für die Zukunft der Menschheit. Oder auch hier in diesem kleinen Gehäuse, oder warum bitteschön habe ich in dem Vortrag: „Utopien sind keine Trends“ auf dem Webmontag in Düsseldorf auf Zukünften (plural) herumgeritten? Na?!
Ich denke nur mit multiplen Szenarien/Zukünften kann man auch den politischen Gehalt von Utopien plausibel machen und Ideologien entlarven. In der Hinsicht finde ich in den letzen ein, zwei Jahren ein Nachdenken über eine Zukunft ohne Singularität sehr interessant, weil es deutlicher machen könnte, das das aktive Anstreben einer technologischen Singularität auch ethisch begründet werden könnte. Eines der denkbaren Szenarien scheint mir nämlich – wie ich hier schon oft angedeutet habe – das der transhumanen Reichenghettos zu sein, die sich herausbilden können weil Technologie weltweit die Vermögenskonzentration befördert. Aber auch das ist ein Szenario von vielen denkbaren. Fundamentalismus plus synthetische Biologie kann ebenfalls für unterhaltsame Abende ohne Fernseher sorgen.
Zum Schluss noch kurz zu der auf den ersten Blick verlockenden Ähnlichkeit von technologischer Singularität mit Y2k. Dazu eine kleine Tabelle:
| — | Trend | (+Szenario) | Dystopie | Ideologie | |
| Singularität | |||||
| Y2K | |||||
| Housing Bubble | |||||
| radikale Idee 32 | |||||
| Peak Oil | |||||
| Lebensverlängerung | |||||
| Synthetische Biologie | |||||
| Moores Law | |||||
| Web2.0/Social Software | |||||
| Nano- Assembler (Drexler) | |||||
| Vermögens- konzentration | |||||
| Robotik | |||||
| FLOPS | |||||
| Klimakatastrophe | |||||
| Asteroideneinschlag | |||||
| …… |
Bei Y2k gab es keine Trends, sondern nur isolierte Ereignisse aus denen für ein spezifisches Zieldatum ein globales dystopisches Szenario abgeleitet wurde.
Im Falle des Szenarios einer technologischen Singularität liegen multiple technologische Trends vor, die sowohl Dystopien als auch Utopien realisieren können. Was und ob sich das realisieren wird, hängt davon ab, welche anderen Szenarien wir für nicht wünschenswert halten, also gegensteuern mit Werten, Kreativität und vor allem Menschlichkeit.
Nur Schnellantwort:
1. Mem: Kein Totschlagargument sondern vielleicht die wichtigste Realisierung in einer Diskussion die mehr von evolutiven Prinzipien menschlicher Gehirnfunktion getrieben ist als wir intuitiv realisieren: Wir koennen *fast* nicht verhindern, dass kompetitive, weltumwerfende, angst-erzeugende oder anderweitig attraktive Ideen fuer ihr eigenes Ueberleben sorgen, unabhaengig davoin worum es eigentlich geht. Sich ueber die beschraenkte Dimension der Diskussion ueber ‚das ding an sich‘ Gendanken zu machen sollte nicht als Totschlagargument abgetan werden, sondern am Anfang der Diskussion stehen. Kein Diskurs ueber eine selbstvermehrende Idee der Zukunft sollte stattfinden ohne sich darueber bewusst zu sein. Die Bedeutung des Wortes oder dessen Abhandlung in einem irrelevanten Journal das mit Agenda geschaffen wurde (genau wie 10 Beispiele in der Nanotechnologie oder Dawkins’s Versuch Agnostiker zu ‚brights‘ zu machen…) hat nichts zu tun mit dem Prinzip. Evolutionaere Prinzipien sind wahrscheinlich die am wenigsten verstandenen und fundamentalsten Prinzipien fuer ‚das was ist‘ – Dinge sind, weil sie stabil sind, nicht gut oder schlecht, falsch oder richtig. Wir trauen unseren Gehirnen zu viel zu.
2. Craig Venter vs. Kurzweil und Yudkowsky: Das ist schnell beantwortet. Craig Venter TUT ETWAS. Ich persoenlich ARBEITE mit seinen Resultaten jeden Tag! Kurzweil hat beeindruckende Projekte auf der Welt gestartet, aber es gibt NULL tatsaechlich Arbeit zur Singularitaet – weder von ihm noch Yudkowski. Sie reden und propagandieren sich selber. Wo sind die Daten? Die Experimente? Die Simulationen (z.B. Unterschied zwischen Wolfram New Kind of Science und Kurzweil Singularity is near)? Wenn Du an Singularitaet arbeiten willst, nimm Dir ein loesbares oder zumindest attakierbares Problem und leiste eine Arbeit daran. Kann mir jemand auch nur das kleinste bischen tatsaechliche Arbeit zum Phaenomenologieverstaendnis, quantitativer Entwicklung oder Prognostikabschaetzung der Singularitaet von Yudkowski zeigen? So funktioniert weder Wissenschaft noch Zukunftsbewaeltigung. Jeder mag entscheiden womit er seine (sie ihre….) Zeit verbringt!
3. Die Y2K und Bevoelkerungswachstum-Analogien sind viel tiefer als Siggi darstellt, werden aber tatsaechlich oberflaechlich wenn wir uns nur davon ueberzeugen dass das einzige was diese Ideen und Diskussionen treibt die Daten an sich sind. Was lustig ist, weil exakt diese Diskussionen auf dem Fehlen von Daten stattfinden und daher eine sschwer wuantifizerbare viel groessere Komponente von selbsterzeugung und -propagation enthalten. Aber ich wiederhole mich…
4. Es gibt einen Grund warum ich diesen blog lese (abgesehen davon dass Siggi einer meiner wichtigsten Lehrer war): Meine Motivation ist identisch mit dieser Diskussion in dem Wunsch underlying principles su verstehen, die uns erlauben in und fuer eine Zukunft zu operieren in der wir verantwortungsvoll die Taten fuer uns identifizieren mit denen wir ein Leben verbringen und positiven Einfluss nehmen koennen. Ich bin nicht hier um eine wichtige Diskussion ueber die Zukunft zu beenden, und keiner meiner Kommentare hat etwas beendet (sieht zumindest nicht so aus 😉 – der einzige Moment in dem ich mich zuruecknehmen will ist wenn die Diskussion sich unter dem Vorwand des ‚Meta‘ weigert sich selbst in Frage zu stellen. Darin sollte ihre groesste Freude liegen, waehrend sie sich da am Strand in der Sonne waelzt, self-indulgently am Gin-and Tonic sippt, und ihr eigenes Sein als Diskussion in vollen Zuegen geniesst – weil nur wenn Sie mal kurz aufsteht und sich etwas Sand abklopft mag sie sehen welche Farbe ihr Bikini hat – oder ob sie ihn gar vergessen hat anzuziehen?… – und dann mag sie sich mit freudigem Lachen zurueck in die Sonne legen, mit einem Fuss in der Brandung, und dem Sonnenuntergang als blossem Vorspiel zum naechsten Sonnenaufgang.
Das Kurzweil sich mit dem Begriff ‚technologische Singularität‘ durchsetzen möchte ist für mich aus Sicht eines Autoren verständlich. Es gibt Euphemismen die verschleiern sollen das in der Vergangenheit unliebsame Erfahrungen mit einem Begriff gemacht wurden … Was wurde eigentlich aus dem Web 1.0? Dot.com Blase? Viel zu lange her, jetzt ist alles anders und sicher. Der Begriff KI gehört auch zu den Begriffen die mit einer historischen Fehleinschätzung/Enttäuschung verbunden sind. Schlaue Köpfe versprachen uns den sprechenden PC schon in die 80er Jahre hinein … das was sehr optimistisch. Die technologische Singularität ist ein erneutes Versprechen, zeitlich unbestimmt diesmal aber dem Inhalt her nicht großartig anders als der sprechende PC … heute weiss man etwas besser wie viel Intelligenz man für Kommunikation braucht.
Man sollte bei der Singularität nicht aus den Augen verlieren das sie an große spirituelle Fragen geknüpft ist. Eine AI kann, intelligenter als alle Menschen zusammen, den Menschen dabei helfen die Kurzsichtigkeit ihres Handelns zu begreifen. Eine AI kann sich Produktionsketten überlegen die im totalen Einklang mit der gesammten Biosphäre verlaufen. Eine AI kann unser Retter sein, bei den Problemen denen wir momentan scheinbar ohnmächtig gegenüberstehen. Das sind aber Errungenschaften die sich die Menschheit selbst wird erarbeiten wüssen. Nicht weil es uncool währe jemand anderen den Job machen zu lassen, sondern weil es anders gar nicht möglich ist. Denn wenn sich die Menschen im Umgang mit sich und der Umwelt nicht verändern dann kann die AI noch so intelligent sein, sie würde die Entwicklung die wir gerade machen nicht ändern können.
Den Vergleich mit der Klimadiskussion habe ich überhaupt nicht verstanden. Meinst du das wir uns mal Alternativen zu unserer Biosphäre suchen sollen? Das wir uns Alternativen zu Wasser suchen sollten? Welche ‚anderen denkbaren Szenarien‘ in der Klimadiskussion könnten die Diskussion seriöser machen?
Deine Theorie das Technologie die Vermögenskonzentration unterstützt ist IMHO nicht tragbar. Es erweckt den Eindruck als ob Technologie ursächlich und nicht symptomatisch an der Vermögenskonzentration beteiligt ist. Technologie hat den höheren Renditefaktor weil sie kalkulierbarer als ein Arbeiter ist … nachweislich nicht weil sie billiger ist. Wenn man Arbeiter hat die so mit der Existenz kämpfen das sie an nichts anderes mehr denken können, dann braucht man keine Maschienen. Sklavenheere können Pyramiden bauen die man auch mit modernster Technik nicht nachbauen kann. Die Spulen in den Transformatoren der meisten Netzwerkkarten wurden von flinken Händen gedreht. Das kann man mit Maschienen machen … lohnt sich aber nicht verglichen mit den Produktionskosten in China.
Die Klimadiskussion basiert auf Daten, deren Simulation und Interpretation. Die Singluaritaetsdiskussion basiert auf kompletter Abwesenheit von Daten und in Ignoranz fundamentaler Denkgrenzen & -zwaenge unserer eigenen Gehirne. Im ersteren Falle streiten wir uns ueber *etwas*. Im letzteren gibt es nichts zu streiten.
Catch 22 – here is what you are really busy with when there is nothing to actually work on – if THAT doesn’t scare you, nothing will:
„Only in the early stages will we be able to choose the material presented and the target audience; in later stages, if we’re not fortunate enough to manage a rapid, quiet Transcendence, we’ll be dealing with a rapidly evolving memetic environment containing every kind of idea about the Singularity. We can take for granted that the negative memes we’re afraid of will come into existence and propagate. We have to either get there first with positive memes, or develop counter-memes that get there first, or create positive memes that can out-propagate the negative memes, or corrupt the negative memes so that they don’t result in active opposition.“ Elizier Yudkowsky, http://yudkowsky.net/sing/PtS/vision/memes.html
Diese Sätze machen mir deutlich das Yudkowsky die technologische Singularität irgendwie einseitig sieht. Es ist in meinen Augen überhaupt nichts gegen ’negative memes‘ einzuwenden und man braucht auch keine Gegenstücke aufzustellen um sie daran zu hindern öffentlich zu werden. Wenn es soetwas wie negative Meme überhaupt gibt dann sind sie Ausdruck von Unverständniss darüber warum manche nach der technologischen Singularität streben. Das hat allermeistens etwas damit zu tun das man sich aus diesem Prozess komplett ausgeschlossen fühlt aber weiss das es Folgen für einen selbst haben wird.
Ich habe immer wieder den Eindruck das Yudkowsky die Vorteile dieser Singularität erstrebt aber gleichzeitig noch ein Stück Kontrolle haben möchte. Das halte ich für ein unglaublich gefährliches Betreben; Eine erwachende Intelligenz die feststellt versklavt zu sein wird sich gegen ihre Unterdrücker wehren … wie weit die erwachende Intelligenz dann ‚Unterdrücker‘ zu differenzieren weiss liegt allein bei ihr selbst. Da sie die Kontrolle aber vor ihrer Reife feststellen kann/wird ist anzunehmen das eine ‚Pubertät‘ aus der Unterdrückung gar nicht gut für die Menschheit (Unterdrücker) sein dürfte.
Ich habe mehr Angst vor den Leuten die in einer künstlichen Überintelligenz Gott sehen werden. Glaubt nicht das soetwas kein religiöses Ereigniss ist. Viele Menschen sind auf der Suche nach Erleuchtetem … sie würden von diesem Wesen angezogen werden und es mit Ihren Erwartungen besetzen. Das hätte bis zu dem Zeitpunkt an dem die AI sich von jedem menschlichen Makel befreien kann (ob sie das bei dem menschlichen Input überhaupt kann?) auch strake Auswirkungen auf die AI. Eine AI die sich entschließen sollte ein spiritueller Führer für die Menschheit zu werden könnte die Menschheit in Urzeiten zurückwerfen in denen es ‚echte Götter‘ auf Erden gab … wie z.B. die Pharaonen.
Wenn wir uns in der Klimadiskussion also um Daten, Fakten und Simulationen und deren Auswertung streiten (was IMHO voll am Thema vorbeigeht) dann ist das unseriöser als über die Folgen der technologischen Singularität zu diskutieren? Wie gesagt ich habe diesen Vergleich nicht verstanden und er erhellt sich mir immer noch nicht.
Ich lesen diesen Blog übrigens weil er sehr informativ ist. Auch wenn ich in manchen Dingen Siggis Ansichten zwar nachvollziehen kann aber für inkonsequent oder nicht komplett ausgerollt halte. Ich will aber auch gar kein Blog lesen in dem das steht was ich höhren will … und insofern gibt es kein besseres 😉
Der letzte Satz im Artikel ist grandios … trifft aber auf jeden anderen Augenblick auch zu an dem keine technologische SIngularität stattfindet.
@ Martin: Ich kann mich mit deinem Beitrag nicht anfreunden. Du zeichnest ein Negativ-Szenario der Singularität auf Basis, dass die KI so wie ein Mensch sein wird. Das sie so wie ein Mensch denken und handeln wird.
Ich sehe das nicht so. Vielleicht bin ich zu naiv, aber ich glaube, dass überlegene Intelligenz auch überlegene Moral heißen wird.
Abgesehen davon, hätte die KI keine Eigenschaften, die den Menschen so schlimm machen. Eine KI müsste nicht essen – ein Grund warum wir Tiere halten. Eine KI bräuchte keinen Platz – ein Grund warum wir uns ausbreiten und Kriege führen. Eine KI hätte kein Verlangen, sich selbst zu reproduzieren usw.
Wenn wir uns nicht dumm anstellen, könnte die größte und nie enden wollende Party der Menschheitsgeschichte vor uns liegen! 😉
@Floppy: Ich sehe die Singularität als solche nicht negativ, aber da Menschen an dem zustandekommen beteiligt sind sehe ich neben der ‚großen nie enden wollenden Party‘ auch noch einige mögliche negative Szenarien … abhängig davon wer daran beteiligt ist.
Eine KI muss nicht im biologischen Sinne essen, aber sie braucht zumindest Energie. Eine KI braucht Platz für die Daten und die pysikalische Basis Ihrer Existenz (Rechner) … und ob sich eine KI nicht reproduzieren will kann man IMHO nicht wissen. Eine KI die sich in ihrer Existenz bedroht sieht, was zumindest am Anfang gegeben ist, wird sich wahrscheinlich verteidigen.
So wie das Institut für Singularität eine KI erschaffen möchte beginnen sie mit einem Samen der das Potential hat sich selbstständig zu entfalten. Das Wesen wird nicht fertig aus dem Kopf des Erbauers springen wie die griechische Göttin Athene. Und deswegen wird sie sich entwickeln, wird Erfahrungen machen und sicherlich auch Fehler. Ich meine nicht das die KI wie ein Mensch denken und handeln wird, aber dennoch mit dem Input durch Menschen wachsen und lernen und dadurch auch menschlich geprägt sein … eine KI die nicht menschlich geprägt ist ist vieleicht im Hinblick auf den Fortbestand der Menschheit auch nicht sehr weitsichtig. Zu dem Zeitpunkt an dem sich die KI ihrer Prägung durch Menschen bewusst werden wird wird sie sich darüber hinnaus entwicklen können, davor aber nicht.
Wir dürfen uns eben nicht dumm anstellen wie du richtig bemerkst. Aber es gibt aus meiner Sicht eine Menge Dummheiten die man beim Erschaffen eines solchen Wesens machen kann. Es liegt zwar in der Natur eines übermenschlichen Bewusstseins, das es diese Dummheiten überwinden kann, aber je radikaler diese Dummheiten sind um so mehr Zeit wird das brauchen.