In den letzten Jahren gab es bemerkenswerte Entwicklungen im Bereich des Machine Learning und der sogenannten künstlichen Intelligenz. Wie bei fast allen neuen Technologien, sind sehr nützliche aber auch sehr gefährliche Anwendungen zu erwarten. In dieser Episode spreche ich über drei Aspekte, die mit neuen KI-Tools auf uns zu kommen, oder bereits verfügbar sind:
Beantwortung von Fragen / Recherche
Generierung von Text mit Large Language Models (gegebenenfalls ergänzt mit Sprachsynthese)
Generierung oder Manipulation von Bildern und Videos
Ich habe mich mit Aspekten dieses Themas schon vor mehr als zwei Jahren in Episode 43: Deep Fakes beschäftigt. Diese Episode ist heute noch aktueller als damals.
Die Frage ist: welchen Inhalten im Internet können wir in Zukunft trauen? Und in dieser Episode liegt der Fokus auf der Frage: was bedeutet diese Entwicklung für Personen und Organisationen, die Inhalte erzeugen und anbieten, im Besonderen für Podcasts sowie Konsumenten dieser Produkte.
Welche Verantwortung haben wir als Produzenten?
Wie können wir Konsumenten vertrauen in unsere Inhalte geben, in einer Welt, die immer mehr von generierten und manipulativen Artefakten geflutet sein wird? Wie kann also mündigen Konsumenten geholfen werden, die Spreu vom Weizen zu trennen und dies ohne Schichten von Zensur einzuführen.
»Nicht zu viel Macht — das ist die Grundidee der Demokratie. Die Macht muss verteilt sein, sodass nicht zu viel Macht in einer Hand ist.«, Karl Popper
Wie verändert sich möglicherweise das Verhältnis zu den Konsumenten?
In dieser Episode diskutiere ich zwei wesentliche Aspekte:
Bin ich die Person (oder Organisation), die ich behaupte zu sein, beziehungsweise wer sind die Personen, die an einer Episode teilnehmen?
Woher stammen die Materialien (z.B. Texte, Bilder, Videos), die ich auf meinem Kanal präsentiere
Wie können wir auch als »kleine« und unabhängige Produzenten in Zukunft das Vertrauen in unser Produkt gewährleisten, ohne uns von wenigen Medien-Monopolisten abhängig zu machen und warum spielen gerade Podcasts eine so wesentliche Rolle in der heutigen, und hoffentlich auch zukünftigen Medienlandschaft?
Zuletzt mache ich meinen Produktionsprozess transparent:
Vorbereiten von Episoden (Recherche, Inhalte zusammenstelle)
Aufnahme
Nachbearbeitung (Post-Production)
Wie werden verschiedene Artefakte erstellt (Audio-File, Shownotes, Transkripte)
Werbung und Interaktion mit Hörern
An welchen Stellen wird mit welcher Art von Tools gearbeitet?
Wie können wir als unabhängige Podcaster in der Zukunft gewährleisten, das Vertrauen der Hörer nicht zu verlieren und gleichzeitig nicht unter die Räder einzelner Medien-Monopolisten zu geraten?
Referenzen
Andere Episoden
Episode 61: Digitaler Humanismus, ein Gespräch mit Erich Prem
Episode 43: Deep Fakes: Wer bist du, und – was passiert da eigentlich?
Episode 2: Was wissen wir?
Fachliche Referenzen
Karl Popper - "Lasst Theorien sterben, nicht Menschen!" (1990)
Transparenz-Erklärung für diesen Podcast

Kultur & GesellschaftBildungWissenschaft & Technik
Zukunft Denken – Podcast Folgen
Woher kommen wir, wo stehen wir und wie finden wir unsere Zukunft wieder?
Folgen von Zukunft Denken – Podcast
122 Folgen
-
Folge vom 28.08.2023078 — Was ist in der Wurst? Podcasten im Zeitalter künstlich generierter Inhalte
-
Folge vom 08.08.2023077 — Freie Privatstädte, ein Gespräch mit Dr. Titus GebelIn der heutigen Episode freue ich mich Dr. Titus Gebel begrüßen zu dürfen. Wir sprechen über sein Konzept der »Freien Privatstädte«. Titus Gebel ist Unternehmer und promovierter Jurist. Er war Mitgründer der Deutsche Rohstoff Gruppe sowie des Startups Dual Fluid, deren CFO Björn Peters, in Episode 73 zu Gast war. Dr. Gebel spielt auch eine wesentliche Rolle in der Etablierung einer ambitionierten Sonderentwicklungszone mit dem Namen Prospera in Honduras und berät andere Sonderwirtschaftszonen weltweit. Aber das Thema des Gesprächs ist breiter: wir beginnen mit der Frage, was modernes Staatswesen ausmacht, was Freiheit bedeutet, was die Rolle von Bürger und Staat sind, wo die Ursprünge und philosophischen Ideen liegen und was bis zum heutigen Zeitpunkt in verschiedenen Nationen daraus geworden ist. Wir beginnen mit einem Blick in die Geschichte, was ist die Rolle des Staates nach Thomas Hobbes und John Stuart Mill? Was ist der Begriff der Freiheit? »Struggle between Liberty and Authority« »By liberty, was meant protection against the tyranny of the political rulers.«, John Stuart Mill Wie hat sich die Rolle des Staates verändert? »Der moderne Staat hat sich etabliert, um seinen Bürgern vor allem zwei Grundpfeiler des Lebens zu garantieren: Freiheit und Sicherheit.«, K. P. Liessmann Wie kommt es zu einem Mehr an Freiheit? Aus philosophischen Überlegungen und Ideen, oder aus pragmatischeren Aspekten? Führt der Weg von der göttlichen Bestimmung zur Freiheit? Wie wird der Wille des Volkes überhaupt bestimmt und was bedeutet dies für Minderheiten? Wir beide stimmen darin überein, dass wir eine beginnende, schwere Krise in den westlichen Demokratien, beziehungsweise Verwaltung erkennen. Die Frage ist: wie ist diese zu erklären und wie könnten Wege heraus aussehen? »Heute haben wir es mit einer Überdehnung des modernen Staates zu tun, und zwar sowohl wohlfahrtsstaatlich wie ökologisch. Mit dem Wohlfahrtsstaat, der eigentlich schon in der traditionellen Gemeinwohlformel angelegt ist, kehrt das summum bonum zurück: das größte Glück der größten Zahl; der gehobene Lebensstandard wird als politisches Recht definiert.«, Norbert Bolz Bismarck gilt als Erfinder des Sozialstaats, was war die damalige Motivation? Wie hat sich der Sozialstaat seit damals entwickelt? Führen falsche Anreizsysteme für Politiker in die Krise, denn Gratisleistungen des Staates erscheinen nur gratis, sind es aber natürlich nicht? »Es gibt in westlichen Demokratien keine klassisch liberalen Parteien mehr, das sind alles Umverteilungsparteien geworden« »Die Gruppe der Menschen, die tatsächlich produktiv und wertschöpfend tätig ist, wird immer kleiner.« Dazu passt auch der Gedanke des mittlerweile 93 jährigen Thomas Sowell: »You have people making [political] decisions, for which they pay no price when they are wrong. No matter how high a price other people pay.« Dr. Gebel hat ein Konzept entwickelt, das er Freie Privatstädte nennt und wir diskutieren über das Konzept, welche Rolle Verwaltung und Regierung einnehmen sollen, wie Anreizsysteme verbessert werden können und vergleichbare andere Ansätze, die in eine ähnliche Richtung gehen. Kann es so etwas wie Verwaltung als Dienstleistung geben? » Der Staat sollte aus meiner Sicht theoretisch kein Monopol auf das Staatsgebiet haben. In Liechtenstein haben wir das verwirklicht. So zwingt man den Staat, ein guter Dienstleister zu sein.«, Hans Adam II von Liechtenstein Wir sprechen dann über die zwiespältige Entwicklungen des 19. Jahrhundert, Engels und den Manchester-Kapitalismus. Welche Rolle spielt Solidarität, Menschwenwürde? Wer soll diese Gewährleisten, und in welcher Form? Welche Rolle spielt Selbstorganisation (bottom up) im Gegensatz zu staatlichen Top Down Mechanismen? Ab wann gleitet ein Sozialstaat in einen »Nanny-State« ab, ganz nach dem alten sozialistischen Motto »Von der Wiege bis zur Bahre« in der Hand des Staates? Gibt es in Deutschland nur mehr vier Grüne und eine rechte Partei, und sind letztlich alle auf dem Pfad des »Rent Seeking«? »Aus dem Recht der Bürger, nach ihrem Glück zu streben, wurde längst die Pflicht des Staates, für dieses Glück zu sorgen. Dass in einer Demokratie die Bürger diesen Staat ausmachen und deshalb solche Forderungen an sich selbst adressieren müssten, wird gerne vergessen«, Konrad Paul Liessmann Machen wir den Fehler einen vermeintlichen Idealzustand mit dem Ist-Zustand zu vergleichen? Warum gelingt es auch nicht mehr — nach Cicero — dass die Begabtesten in die Politik gehen, sondern wir heute eher eine negative Auslese erleben? »Wenn man merkt, dass man ein totes Pferd reitet, sollte man absteigen.« Titus Gebel erklärt dann sein Konzept der freien Privatstädte genauer, auch die Abgrenzungen zu Charter Cities und Sonderwirtschaftszonen im Allgemeinen. Warum sind seiner Ansicht nach die Anreizsysteme in diesen Konzepten besser? Welche Rolle spielt der Markt — als Entdeckungsverfahren — und wie können wir evolutionäre Prinzipien auch in Verwaltung und Staatswesen etablieren mit Mutation, Nachahmung, Reproduktion, beziehungsweise dem »Seed, Select, Amplify« (Meyer, Davis) Prinzip? Probieren und Scheitern sollte wieder möglich werden, sonst gibt es auch weiterhin keinen Fortschritt. »Es wäre besser, wir würden in einer Welt von 2.000 Liechtensteins leben, die alle ein veschiedenes System haben als in 200 Staaten.« Aber ist es realistisch, dass sich Koordination von viele kleine Einheiten global bei wesentlichen Fragen umsetzen lässt? Wie könnte ein solches System überhaupt umgesetzt werden, wo doch alle Landflächen von existierenden Nationen kontrolliert werden? Gibt es eine reale Chance der Umsetzung? Oder gibt es schon exisitierende Beispiele? Dr. Gebel spricht über Beispiele in China, dem Nahen Osten, Saudi Arabien und Südamerika? Sind diese Ansätze nicht nur Gated Communities für die Elite? Was macht ein Gemeinwesen? Ich fühle ja auch keine Gemeinschaft zu anderen Gästen in einem Hotel? »Es gibt zwei Arten von Menschen: die einen, die ihre Meinungen anderen aufzwingen wollen, und die anderen, die das nicht wollen und die sagen, Leben und Leben lassen. Die erste Gruppe strebt natürlich in die Politik.« Findet der wirkliche politische Konflikt heute nicht, wie so oft behauptet, zwischen links und rechts, sondern vielmehr zwischen autoritär und (klassisch) liberal statt? »Leben und Leben lassen in unterschiedlichsten Formen des Zusammenlebens.« Referenzen Andere Episoden Episode 73: Ökorealismus, ein Gespräch mit Björn Peters Episode 58: Verwaltung und staatliche Strukturen — ein Gespräch mit Veronika Lévesque Episode 57: Konservativ und Progressiv Episode 29: Fakten oder Geschichten? Wie gestalten wir die Zukunft? Episode 26: Was kann Politik (noch) leisten? Ein Gespräch mit Christoph Chorherr Episode 17: Kooperation Titus Gebel Webseite von Dr. Titus Gebel Deutsche Rohstoff AG Dual Fluid Titus Gebel, Freie Privatstädte: Mehr Wettbewerb im wichtigsten Markt der Welt (2023) Free Cities Foundation Liberty in Our Lifetime Konferenz 2023 Fachliche Referenzen Honduran ZEDEs: Their Past and Future Reason TV: A private libertarian city in Honduras (2023) Franz Oppenheimer, Der Staat (1907) Austrian Institute, „Der Staat soll nicht nur einer privilegierten Schicht dienen, sondern allen Menschen“ – Interview mit Fürst Hans-Adam II. von Liechtenstein (2017) John Stuart Mill, On Liberty (1859) Thomas Sowell im Gespräch mit Peter Robinson, Uncommon Knowledge(7.9.2023) Konrad Paul Liessmann, Lauter Lügen, Paul Zsolnay Verlag (2023) Norbert Bolz, Keine Macht der Moral, Politik jenseits von Gut und Böse, Matthes & Seitz Berlin (2021) Christopher Meyer, Stan Davis, It's Alive, Texere Publishing (2004) Karl Popper, Die Offene Gesellschaft Karl Popper - Ein Gespräch (1974) Roger Scruton, How to be a Conservative, Bloomsbury Continuum (2014)
-
Folge vom 17.07.2023076 — Existentielle Risiken»Wird die Zivilisation mit einem Knall oder einem Winseln untergehen? Der aktuelle Trend ist ein Winseln in Erwachsenen-Windeln.«, Elon Musk Existentielle Risiken sind ein Thema, das in diesen Podcast passt, auch weil es eine interessante historische und zukünftige Dimension hat. Zur Zukunft später, zuerst zur Vergangenheit: Zwar gab es auch in der Vergangenheit für die Menschheit oder den Planeten existentielle Risiken, etwa Asteroiden-Einschläge, aber es waren Risiken, die der Mensch weder beeinflussen noch herbeiführen konnte. Die Wirkmacht der Menschen war über den größten Zeitraum menschlicher Geschichte eine lokale. Das ändert sich zunächst langsam mit der industriellen Revolution und dann schlagartig ab der Mitte des 20. Jahrhunderts. Die Atomwaffen waren die erste Technologie, die ganz offensichtlich gezeigt haben, dass wir nun in der Lage sind nicht nur ganze Landstriche zu verwüsten, sondern tatsächlich die ganze Welt. "Wir waren immer verrückt, aber wir hatten nicht die Fähigkeiten die Welt zu zerstören. Jetzt haben wir sie.", Nassim Taleb Was sind existentielle Risiken? Versuch einer Definition: »Ein 'existenzielles Risiko' (X-Risiko) ist ein Ereignis, das die Möglichkeiten der Menschheit dauerhaft und drastisch einschränken könnte, indem es zum Beispiel das Aussterben der Menschheit verursacht«, CamXRisk Meine erweiterte Definition: Ein existenzielles Risiko für die Menschheit ist eine Bedrohung, die große Teile des Planeten oder menschlicher Strukturen zerstört oder große Teile der Menschheit in einem Ausmaß oder auf eine Weise töten könnte, dass eine Wiederherstellung eines modernen Gesellschaftsniveaus innerhalb eines Zeitrahmens von Jahrhunderten nicht wahrscheinlich ist. Macht das Auflisten existentieller Risiken, das Ranken Sinn? Mit welchen Einschränkungen, unter welchen Rahmenbedingungen? Ist es überhaupt möglich, die Risiken sinnvoll einzuschätzen und wovon hängt das Risiko ab? »Eine Pandemie besteht aus einem neuen Erreger und den sozialen Netzwerken, die er angreift. Wir können das Ausmaß der Ansteckung nicht verstehen, wenn wir nur das Virus selbst untersuchen, denn das Virus wird nur so viele Menschen infizieren, wie es die sozialen Netzwerke zulassen. Gleichzeitig legt eine Katastrophe die Gesellschaften und Staaten offen, die sie angreift.«, Niall Ferguson Daher sind die Auswirkungen von Effekten komplexer Bedrohungen oft auch schwer einzuschätzen. So sind etwa trotz Klimawandel: »Die jährlichen Todesfälle durch Tornados in den USA sind seit 1875 um mehr als das Zehnfache zurückgegangen« […] "Die Zahl der wetterbedingten Todesfälle ist in den letzten hundert Jahren drastisch zurückgegangen, obwohl sich die Erde um 1,2 °C erwärmt hat; sie sind heute etwa 80-mal seltener als noch vor einem Jahrhundert. […] Das liegt vor allem an der besseren Verfolgung von Stürmen, dem besseren Hochwasserschutz, der besseren medizinischen Versorgung und der verbesserten Widerstandsfähigkeit der Länder, die sich entwickelt haben. Ein aktueller UN-Bericht bestätigt den Trend der letzten zwei Jahrzehnte", Steven Koonin Anhand von drei existentiellen Bedrohungen stelle ich die Schwierigkeit dar, Risiken, Auswirkungen und Rankings zu beurteilen: Atomwaffen, Bevölkerungskollaps und Klimawandel. Welche Rolle spielen systemische Effekte? Wechselbeziehungen zwischen Bedrohungen, beziehungsweise sind einzelne Risiken als Folge anderer zu sehen? Wie damit umgehen? »Für jede mögliche Katastrophe gibt es mindestens eine plausible Kassandra. Nicht alle Prophezeiungen können beherzigt werden. In den letzten Jahren haben wir vielleicht zugelassen, dass ein Risiko - nämlich der Klimawandel - unsere Aufmerksamkeit von den anderen ablenkt«, Niall Ferguson Das Leben in einer modernen, komplexen Gesellschaft — im Anthropozän — hat positive Auswirkungen: wir sind weiter von der Natur entfernt, sind sicherer und haben einen viel höheren Lebensstandard als je zuvor. Wir sterben nicht mehr im Einklang mit der Natur, wie Hans Rosling es ausdrückte. Aber sie hat eben auch negative Auswirkungen, die leider existentielle Risiken darstellen können. Die Konzentration auf die Eindämmung eines einzigen Risikos (z. B. des Klimawandels) kann dazu führen, dass wir andere Risiken unterschätzen oder sogar andere Risiken dramatisch erhöhen. »Wir sind immer gut vorbereitet auf die falsche Katastrophe. [...] Aber die Geschichte warnt uns, dass man nicht die Katastrophe bekommt, auf die man sich vorbereitet.«, Niall Ferguson Wie können wir aber mit einer Vielzahl an miteinander verknüpften Risiken umgehen? Was könnten wir unternehmen um unsere Gesellschaft in einem breiteren Sinne resilienter, widerstandsfähiger zu machen? Welche Fehler haben wir in der Covid-Pandemie gemacht und was können wir daraus lernen? Und nicht zuletzt — was ist die Liste der existentiellen Bedrohung in meiner Reihenfolge (die unbedingt kritisiert werden sollte!): Atomwaffen Natürliche oder künstlich erzeugte Pathogene (»Demokratisierung« der Wissenschaft) Zusammenbruch kritischer Infrastrukturen (Energie, Finanz, IKT, ...) Solarer Supersturm (auch Carrington-Ereignis genannt) Außer Kontrolle geratene Automatisierung/Robotik ("AI", aber auf einer allgemeineren Ebene) Klimawandel (insbesondere für den Fall, dass Kipppunkte und ein unkontrollierbarer Klimawandel auftreten) Nanotechnologie oder andere Möglichkeiten zur drastischen Veränderung von Herstellung und Chemie, die zu Nanomaschinen führen Bevölkerungskollaps beziehungsweise starkes globales Ungleichgewicht Ökosystemkollaps mit »Domino-Effekten« Unbekannte Unbekannte (»Unknown unknowns«) Grüne Gentechnik die außer Kontrolle gerät Politischer/religiöser Extremismus Asteroideneinschlag auf der Erde Geoengineering (auch als Konflikt-Auslöser, -Verstärker) Diese Liste ist als Anregung gedacht, dieses Thema zu diskutieren. Ist die Reihenfolge richtig? Wahrscheinlich nicht. Fehlt etwas? Die Kluft zwischen Nutzen und Katastrophe scheint durch moderne Technologie immer schärfer zu werden. Wir sind also gut beraten, diese Bedrohungen ernst zu nehmen. Aber um einen Punkt zu wiederholen: es ist ein großer Fehler, sich hauptsächlich auf eine Bedrohung in dieser Liste zu konzentrieren, welche auch immer das sein mag, und zu glauben, wir könnten so unser gesellschaftliches Risiko verringern. Das werden wir nicht. Referenzen Andere Episoden Episode 74: Apocalype Always Episode 60: Wissenschaft und Umwelt — Teil 2 Episode 59: Wissenschaft und Umwelt — Teil 1 Episode 55: Strukturen der Welt Episode 51: Vorbereiten auf die Disruption? Ein Gespräch mit Herbert Saurugg und John Haas Episode 45: Mit »Reboot« oder Rebellion aus der Krise? Episode 44: Was ist Fortschritt? Ein Gespräch mit Philipp Blom Episode 37: Probleme und Lösungen Episode 33: Naturschutz im Anthropozän – Gespräch mit Prof. Frank Zachos Episode 27: Wicked Problems Episode 21: Der Begriff der Natur – oder: Leben im Anthropozän Fachliche Referenzen Cambridge Existential Risks Initiative (CERI) Hans Rosling, Factfulness: Wie wir lernen, die Welt so zu sehen, wie sie wirklich ist, Ullstein (2019) Niall Ferguson, Doom, The Politics of Catastrophe, Penguin (2022) Steven E. Koonin, Unsettled, BenBella Books (2021) Climate Change Debate: Bjørn Lomborg and Andrew Revkin | Lex Fridman Podcast #339 Niall Ferguson on disaster preparation, Triggernometry Near Miss: The Solar Superstorm of July 2012, NASA (2014) Lloyds, Solar storm risk to the North American electric grid (2013) The Economist Briefing, It’s not just a fiscal fiasco: greying economies also innovate less (2023) The five biggest threats to human existence, The Conversation (2014) Elon Musk on artificial intelligence, Conversation with Tucker Carlson (2023)