Dr. Carmen Köhler: Vertrauen in KI – Transparenz, Ethik und die Zukunft der Technologie

00:00:00: Also ich wünsche mir auf jeden Fall, dass die Künstliche Undgänz uns unterstützt, wie auch bei den Weltraummissionen und nicht ersetzt.

00:00:07: Und deshalb meine ich, was ich auch bei Forschung gesagt hatte, dass wir einfach gucken müssen, wo brauchen wir Unterstützung im Alltag?

00:00:14: Wie gesagt, bei Monotonen-Tätigkeiten.

00:00:17: und dass wir uns da wirklich dann auf das menschliche konzentrieren können, dass wir mit empatieren, dass das Funktionen konforgiger gaukelt werden, aber sowas kann momentan zwischendurch gar nicht ersetzt werden.

00:00:27: Obwohl es natürlich jetzt heutzutage auch schon einige gibt, die halt Chattypity als Therapeuten zum Beispiel verwenden, aber das sind genau die Sachen, in die Richtung, die wir vielleicht nicht gehen möchten.

00:00:46: Willkommen zu einer neuen Folge unseres Big Bang Podcast.

00:00:49: Ich bin Aische Mese und heute habe ich eine Frau zu Gast, deren Lebenslauf man fast für Science-Fiction halten könnte.

00:00:56: Dr.

00:00:56: Carmen Köhler ist promovierte Physikerin, Meteorologin und Analogastronautin.

00:01:02: Sie hat an einer Mars-Dimulation teilgenommen in der Wüste von Uman, genauso wie auf den Gletschern in den Alpen.

00:01:09: Und sie forscht heute an der Schnittstelle von KI, Umwelt und Raumfahrt.

00:01:13: Mit ihrer Firma P-III-R GmbH, ich hoffe, ich habe es richtig ausgesprochen, entwickelt sie Datenbasierte Lösungen für Wetter, Erdbeobachtungs- und Nachhaltigkeitsanwendung oder, wie sie selbst sagt, Data Science for our home planet and beyond.

00:01:29: Beim Big Bang KI Festival hielt sie einen Vortrag mit dem Titel Analog Astronauten meets AI Mensch-Maschine-Kombos im extremen Total spannend.

00:01:38: Ich freue mich riesig auf dieses Gespräch und herzlich willkommen, liebe Carmen.

00:01:43: Vielen Dank, liebe Eisch.

00:01:44: Ich freue mich sehr, dabei sein zu dürfen.

00:01:46: Ja, Carmen, dein Lebensweg ist wirklich außergewöhnlich von der Friseurin zur promovierten Physikerin, Analogastronautin und Unternehmerin.

00:01:55: Das sind ja quasi vier Leben in einem, so zu sagen, wenn du auf diesen Weg zurückblickst.

00:02:00: Was hat dich immer wieder angetrieben, die Grenzen zu verschieben und einfach mal neue Welten zu entdecken?

00:02:07: Ich glaube, was mich immer antreibt und angetrieben hat, ist Neugierde.

00:02:11: Weil die Neugierde für unsere Welt, was es darüber hinaus gibt im Universum, und ja, das hat mich schon immer fasziniert und ich glaube dann, genau damit kann man dann auch Grenzen verschieben, dass man die eigenen Grenzen dann betrachtet und dann immer weiter was dazu lernt und immer neugierig bleibt.

00:02:29: Ja, das glaube ich dir.

00:02:30: Vor allem, das sind ja so spannende Felder.

00:02:33: Wie fühlt es sich denn an, in einer Maßdimulation zu leben, in kompletter Isolation, in einem Raumanzug, in so einer extremen Situation?

00:02:41: Und welche Erfahrungen nimmst du vielleicht daraus für deinen heutigen Alltag mit?

00:02:46: Ich glaube, wir sollten erst mal sagen, was Analog-Astronauten sind.

00:02:49: Ja, richtig.

00:02:51: Bevor ich mich darauf beworben habe, wusste ich auch nicht genau, was es ist.

00:02:55: Und zwar sind Analog-Astronauten, nämlich Personen, die hier auf der Erde bleiben und hier Forschung betreiben für spätere, bemannte oder befraute Innovationen ins Weltall quasi.

00:03:06: Und da gehen wir dann mit dem österreichischen Weltraumforum, also da bin ich Analog-Astronautin, da wurden wir ausgewählt, vor zehn Jahren war das, und mit über sixhundert Tests.

00:03:17: und wurden dann auf Mars-Simulationen geschickt.

00:03:20: Das war zum Beispiel, wie du gerade meintest, auch im Kone-Tala.

00:03:24: Gletscher waren wir im Oman, in Israel, letztes Jahr waren wir in Armenien und da sind wir dann immer so ungefähr einen Monat lang und führen dann unterschiedliche Experimente durch, die man dann halt analog dazu, dann auch später auf den Mars machen würde.

00:03:37: Zum Beispiel überleben in extremen Bedingungen, wir haben den Raumanzugsimulator.

00:03:45: der Forschen nach Leben oder Wasser quasi in den Bereichen.

00:03:49: Denn es ist ganz spannend, dass wir ziemlich viele... maasähnliche Regionen, nämlich auf der Erde, haben, die sich geologisch und geochemisch sehr stark ähnelt.

00:03:59: Und dementsprechend können wir hier schon ganz viel erforschen, dass wir hier möglichst viel falsch machen können, bevor wir dann auf dem Mars sind, wo es dann ein bisschen schwerer ist, wenn wir da was falsch machen.

00:04:08: Ja, das glaube ich.

00:04:09: Und bist du dabei, Elon Musk, oder hast du eine andere Meinung, wann die erste Marsmission erfolgen wird?

00:04:15: Ich glaube, es verschiebt sich immer, man sagt immer in zehn Jahren.

00:04:19: Also von daraus gesehen, seitdem ich angefangen habe, war es immer in zehn Jahren.

00:04:23: Also genau, gucken wir mal in zehn Jahren weiter.

00:04:26: Ich verstehe,

00:04:26: also in zehn Jahren ist also die Standardantwort in den Bereich.

00:04:31: Und ist es hat man nicht irgendwann den Wunsch, wenn man immer als Analog Astronautin sozusagen das austestet, einmal auch wirklich ins All zu fliegen?

00:04:41: Oh, das wäre auf jeden Fall mein Traum.

00:04:43: Also ich würde mein größter Traum ist, auf den Mond zu fliegen tatsächlich, weil man dann auf dem anderen Himmelskörper wäre und von da aus dann die Erde betrachten kann.

00:04:52: Und wenn man nämlich auf dem Mars ist, dass man, also erstmal man fliegt ungefähr sieben Monate hin und dann je nachdem wie die Konstellation ist, sehr Planeten, dann bleibt man dann bei ganz kurz oder für einen längeren Zeitraum also über ein Jahr und fliegt dann sieben Monate zurück.

00:05:05: Und wenn man da auf dem Mars ist, dann guckt man auf die Erde, so wie man es von hier auch kennt, von der Erde aus.

00:05:11: Ich kann hier inzwischen ganz gut identifizieren, es ist halt ein rot leuchternder Stern quasi, so sieht es aus.

00:05:16: Und dann manchmal, wenn man so guckt, ich glaube, das ist der Maas und dann ist aber halt dieser kleine rote Punkt quasi am Himmel.

00:05:22: Und so wäre es halt auf dem Maas auch, dass man diesen kleinen blauen Punkt, kleine blaue Kugel da hat.

00:05:27: Und das wäre die Erde.

00:05:28: Deshalb wäre mein Traum, auf den Morgen zu fliegen, weil man da diese große, riesige blaue Kugel vor sich hat.

00:05:34: Also ich bin Mathematikerin und damit ein Memenfach, Meteorologie.

00:05:38: Und da interessiert mich natürlich unheimlich die Wolken und ich würde das unheimlich gerne von oben sehen.

00:05:43: Ja, verstehe.

00:05:44: Vielleicht, ich meine, bei deinem Lebensweg würde ich glaube ich nichts für unmöglich halten.

00:05:48: Vielleicht kommt das ja noch, ne?

00:05:50: Danke, daum drücken, dass immer willkommen.

00:05:52: Genau.

00:05:52: Zurück zur Erde.

00:05:53: mit deiner Firma P-III-R.

00:05:56: Arbeitest du an datengetriebenen Lösungen für unseren Planeten und auch darüber hinaus, wie ich gesehen habe.

00:06:02: Wie genau setzt ihr denn künstliche Intelligenz in euren Projekten ein und welche Themen stehen aktuell im Fokus bei euch?

00:06:11: Also wir arbeiten, indem wir metrologische Software bereitstellen unter anderem und das bietet sich total an, im metrologischen Bereich künstliche Intelligenz zu verwenden, weil man immer diese riesigen Datenmengen hat, schon lange bevor Big Data hieß, hatte man da riesige Datenmengen, man hat immer Messdaten, Satellitendaten, Wettervorhersagen.

00:06:32: und das zu kombinieren, das künstliche Legenztop einfach Strukturen zu erkennen, die wir als Menschen erkennen könnten.

00:06:40: Aber da, weil wir halt diese wahnsinnigen Massen an Daten haben, ist es einfach viel leichter da im Maschinenes Lernen einzusetzen.

00:06:48: Bei uns bei PDR machen wir momentan zwei Themen, die wir sehr gerne bearbeiten.

00:06:53: Zum einen machen wir Pegelvorhersagen, auch KI-basierte.

00:06:57: für Hochwasserwarnungen zusammen mit Kommunen.

00:07:00: Da haben wir dann auch wieder Pegelmessungen, Radar-Daten, Wettervorhersage-Daten und Satellitendaten.

00:07:06: Und wenn wir diese vereinen, dann kann man sehr viel präzisere Pegelvorhersagen machen und somit dann auch für die Hochwasserinformation sehr wertvolle Informationen liefern.

00:07:15: Die auch Menschenleben retten.

00:07:16: tatsächlich, das ist ja schon spannend.

00:07:18: Das ist

00:07:19: genau der, weshalb wir das machen, wir machen sehr viel im Bereich von Klima.

00:07:25: Also für den Klima-Effekt, sondern den extremen Wetter.

00:07:28: Und da ist es immer schön, wenn man da natürlich einen positiven Effekt erreichen kann und natürlich Menschenleben retten kann.

00:07:36: Also was weiteres, was wir noch machen, sind Lastprognosen, also intelligentere, weil wir da auch den metrologischen Parameter mit reinnehmen.

00:07:44: Dadurch, dass wir natürlich immer mehr erneuerbare Energie haben, ist dieser metrologische Faktor immer wichtiger.

00:07:48: Und da wirklich für die Energielassprognosen, um die zu verbessern, brauchen wir da auch bessere

00:07:52: Daten.

00:07:53: Ja, spannend.

00:07:54: Also KI in tatsächlich praxisnahen Bereichen, Lebensbereichen.

00:07:58: Wie groß seid ihr als Unternehmen?

00:08:01: Wir sind ein kleines Unternehmen, also SMI und sind so um die sechs Leute.

00:08:07: Okay, und wenn

00:08:09: wir das unterschreiben, der Verträge

00:08:12: verstehe.

00:08:13: Genau, ist ja auch ein zukunftsträchtiger Bereich.

00:08:15: und ich sag mal, Wetterprognosen werden ja eher mehr als weniger benötigt bei dem Klimawandel, den wir jetzt schon haben und der uns noch bevorsteht.

00:08:22: Von daher habt ihr gute Aussichten, dass das Wachstum weitergehen kann.

00:08:27: Ja, mit Klimafolgenforschung ist leider auf der einen Seite eine Negativ für uns, aber in dem Sinne dann positiv.

00:08:35: Ich frage immer ganz gerne, welche KI-Tools oder Technologien du selber nutzt, hier unsere Gäste, am häufigsten und vor allem auch am liebsten, beruflich und privat, weil ich das total spannend finde, jetzt Chachibiti nutzen, irgendwie gefühlt alle für alle möglichen Sachen, aber es gibt ja immer noch so den einen oder anderen kleinen Heck, den meine Zuhörer, Zuhörerinnen und ich vielleicht noch nicht kenne, deshalb bin ich sehr gespannt.

00:09:00: Ich glaube, ich habe hier bei dem Bereich aber auch vielleicht dann auch langweilig im Anfang strechen, dass ich benutze auch... large Language Models.

00:09:06: Auf der einen Seite ChatGbt, aber auch Cloud von Anthropic mag ich sehr gerne, also insbesondere fürs Programmieren mag ich Cloud sehr gerne.

00:09:14: Und dann, ich habe heute auch wieder irgendwas programmiert mit einem kleinen Skriptus, mache ich dann auch einfach mit ChatGbt und dann kommt aber immer, mir kommt das zu oft so, dass da einfach Fehler drin sind.

00:09:23: Und dann kommt immer so, exzellently ... Ja, also

00:09:26: halloziert halt noch ein bisschen, ne?

00:09:29: Ein bisschen ist gut, also da merkt man aber auch wirklich einfach, wie aufmerksam wir dabei noch bleiben müssen, wenn wir fünstliche Intelligenz verwenden.

00:09:35: Ich verwende es aber auch gerne für zum Erstellen von unterschiedlichen.

00:09:40: von unterschiedlichen Bildern für Proposals und sowas, in der Fall wenn ich napkin AI, das ist total super.

00:09:46: Das hat aber gerade mit der WDR-Version aufgehört, ob jetzt zu kostets Geld.

00:09:50: Deshalb habe ich es seitdem nicht nochmal

00:09:52: benutzt.

00:09:52: Aber ich verstehe.

00:09:53: Wir schreiben gerade kein Proposal.

00:09:55: Wir sind gerade zum Glück durch mit Proposal schreiben.

00:09:57: Aber das mag ich auch total gerne.

00:10:01: Und gibt es so ein Prompt, den du besonders häufig nutzt oder wo du sagst, der ist total cool, den kann man quasi direkt implementieren, der hat mich weitergebracht?

00:10:11: Wie gesagt, ich verwende es primär fürs Programmieren.

00:10:14: Da bin ich dann möglich, um die Unterstützung zum Programmieren.

00:10:16: Deshalb ist das leider da nicht.

00:10:18: Aber was ich sehr gerne verwende, ist nicht nur KI, sondern auch HI, also Human Intelligence, die menschliche Intelligenz.

00:10:25: Und das merkt man immer wieder, dass man die... eindeutig braucht.

00:10:28: Und ich kenne inzwischen auch viel zu viele, glaube ich, wo man jetzt auch zu automatisch eine Chat-Gbt greift und gar nicht mehr selber überlegt.

00:10:34: Und das ist was, was ich probiere, nichts zu machen, zum Beispiel.

00:10:37: Ich probiere wirklich, dass man kritische Denken noch beibehält und auch computational thinking und was, was ich probiere, selber zu überlegen, was brauche ich, um dann halt auch besser zu überprüfen zu können, was wird mir dann geliefert überhaupt als Output und wird jetzt hier halluciniert oder nicht.

00:10:52: Aber der

00:10:53: Projeklau Cloud, auch zum Beispiel viel besser Cloud, halluciniert weniger und ist auch so programmiert, dass es weniger, also zum einen halluciniert, aber auch ethnisch viel besser

00:11:03: ist.

00:11:04: Ja, ich nutze mal gerne per Plexity, weil ich gerne die Quellen sehen will.

00:11:11: Im Studium wurde hier so erzogen, dass ich da ohne Quellenangabe erstmal gar nichts glaube.

00:11:17: Das glaube ich, müssen wir noch mal ein bisschen weiter in die Gesellschaft tragen.

00:11:21: Und da finde ich, ist per Plexity halt ganz gut.

00:11:23: Da kann man gucken, von welcher Quelle hat er das, wenn das irgendwie nur von irgendwelchen Film-Home-Pages ist.

00:11:29: Da kann man davon ausgehen, dass da nur die eine Seite beleuchtet worden ist.

00:11:33: Ja, absolut.

00:11:33: Also für Paper mache ich es momentan tatsächlich noch so, dass ich Paper wirklich lese und dann, aber auch mit Perplexity wollte ich auch anfangen.

00:11:41: Genau, was ich aber auch sehr mag, zwischen Notebook, LM, das ist ja, dass man dann einfach unterschiedliche Dokumente dann hochladen kann, wenn man größere Projekte hat und dann einfach dazu fragen stellen kann.

00:11:51: Das ist für mich auch sehr hilfreich, besonders wenn man wie gesagt bei unterschiedlichen Projekten größere Projektanträge hat, ganz viele unterschiedliche Berichte dazu und dann einfach nur kurze Zusammenfassung haben möchte.

00:12:02: Ja, vor allem in der Forschung ist das ja dann wichtig, dass man da die Datengrundlagen immer festlegt, von welchen Daten man ausgeht.

00:12:10: Das bekomme ich da auch drauf, weil da steht dann nämlich auch immer bei Notburg LM genau aus welchen der hochgeladenen Dateien nämlich dann die Quellenangabe ist.

00:12:18: Ja, was fasziniert dich denn persönlich an KI?

00:12:22: Ist es die Möglichkeit Zusammenhänge zu erkennen, die wir Menschen manchmal übersehen oder die Geschwindigkeit, mit der sie komplexe Systeme verstehen kann?

00:12:31: Bei mir ist es tatsächlich so, da ich ein Mathematikerin bin, interessiere mich die Algorithmen im Tal.

00:12:36: Und ich finde das sehr spannend, weil ich früher auch dachte, künstliche Illigenz und so ganz spannender war.

00:12:40: letztendlich, sind es sehr viele von den Algorithmen, die seit Jahrzehnten.

00:12:44: Das ist aber jetzt so, dass wir die Möglichkeit haben dazu, dadurch durch unsere Hochleistungsrechner, jetzt das alles zu implementieren, was damals schon entwickelt wurde.

00:12:54: Und das finde ich sehr spannend.

00:12:56: Und dann natürlich die komplexen Systeme, weil die Atmosphäre natürlich auch ein komplexes System ist.

00:13:01: Und wir dann das eine mit dem anderen anders und hoffentlich auch besser berechnen können.

00:13:07: Nutzt ihr das denn so viel, dass du sagst, wir brauchen tatsächlich weniger Personal?

00:13:15: Wir hätten, wenn wir das vor fünf Jahren angefangen hätten, mit der doppelten Anzahl an Personal arbeiten müssen.

00:13:20: Das interessiert mich, weil gerade von, weiß ich gar nicht, BCG oder so eine Studie rausgekommen ist, dass irgendwie nur fünf Prozent Optimierung durch Einführung von KI-Tools gelungen ist.

00:13:34: Ich glaube, in unserem Fall, dadurch, dass wir alle aus dem technischen Bereich kommen, hilft es ungemein.

00:13:40: unterschiedlichen Sachen, dass man einfach so eine erste Meinung einholen kann, quasi ohne gleich einen Experten oder Expertin zu fragen.

00:13:47: Wenn es dann natürlich konkreter wird, dann braucht man auf jeden Fall, wie gesagt, die Human Intelligence, aber einfach um anfangs irgendwie so ein Gefühl für unterschiedliche Sachen zu bekommen, hilft es sehr stark.

00:13:57: Und wie gesagt, beim Programmieren, dann merken wir auf jeden Fall, dass wir da viel schneller sind.

00:14:01: Weil wenn wir jetzt irgendwas mit Maschinellen lernen machen, einfach dann so, die Zeile, wie schreibe ich das?

00:14:08: Oder wenn ich ein Fehler habe, gebe ich das ein.

00:14:10: oder so, hier ist der Fehler, das ist die Fehlerbezeichnung, der vorab ist geguggelt und dann auf Google-Seiten dann nachgeguckt und jetzt behaupten wir sofort, hier ist das Problem, das liegt da und da und da dran, das heißt man lernt auch dann da, das finde ich dann halt sehr spannend.

00:14:24: und da muss ich sagen, haben wir doch sehr viel, also erspannen wir uns wirklich sehr viel Zeit und natürlich möchten wir auch das Personal erweitern, aber bestimmte Positionen haben wir momentan, können wir noch damit überbrücken, würde ich sagen.

00:14:36: Ja, geht vielen glaube ich so.

00:14:39: Wenn wir zum Big Bang KI-Festival kommen, dein Vortrag, dort trug ja den Titel Analog Astronaut meets AI oder Menschmaschine-Kombos im Extrem.

00:14:49: Was bedeutet das denn ganz konkret?

00:14:51: und vor allem, wie verändert die Zusammenarbeit zwischen Mensch und Maschine, also wie verändert KI die Zusammenarbeit in diesen herausfordernden und extremen Situationen, denen du ja dann ausgesetzt bist oder warst?

00:15:06: Und zwar ist es so, dass wir dass wir in diesem Maß-Sumulationsmission schon immer genau die Interaktion zwischen Mensch und Maschine studiert haben und probiert haben zu optimieren.

00:15:16: Denn wenn wir wirklich in dieser extremen Umgebung uns begeben, wo wir als Mensch eigentlich per Definition nicht sein sollten, wenn wir auf dem Maß sind und es ohne Technik geht, da ist gar nicht, da können wir nicht überleben.

00:15:27: Und dementsprechend ist es da ganz wichtig zu gucken, okay, wie kann man beides optimieren?

00:15:32: Also viele sagen auch, wir sollten nur Maschinen quasi ins Weltall schicken.

00:15:35: Es gibt die andere Fraktion, die sagen nur Menschen und am besten ist es wirklich die optimale Kombination des beides zusammen, Mensch und Maschine.

00:15:42: Dass man einfach aus beiden das positive rausholt und probiert das negative zu kompensieren.

00:15:47: Da war es zum Beispiel bei der letzten Mission in Armenien letztes Jahr, da hatten wir über fünf Experimente mit unterschiedlichen Robotern.

00:15:55: weil wir als Menschen natürlich das schwächste Glied in der Kette sind, wenn wir in diesen extremen Bedingungen sind.

00:15:59: Dementsprechend wollen wir minimieren, dass wir raus müssen auf den Maß, auf die extreme Umgebung, wo möglicherweise das passieren kann, sondern dass wir im Habitat möglichst viel steuern.

00:16:10: Und dann erst bei Dingen, wo Menschen unerlässlich sind oder halt auch viel schneller sind.

00:16:15: letztendlich und dafür auch gerne gemacht werden, also zwischen Geologen oder so, dass sie können das gar noch mal ganz anders sehen als dann wirklich die Computer.

00:16:24: oder die Roboter mit den Fotos, aber letztendlich ist es so, dass man dann halt sagt, okay, ich habe schon Point of Interest, ich weiß genau, wo ich hin möchte.

00:16:32: Und dann kann man Drohnen ausschicken, die ist jetzt auf dem Mars, gab es das erste Mal und dann von ein paar Jahren und dann und die Roboter und so was, dass man auch da bereits Gesteinsproben nehmen kann und zu gucken, okay, interessiert mich dieser Ort wirklich, bevor ich jetzt bei in unserem Fall zwei Stunden lang diesen Raumanzugsimulator anziehe.

00:16:48: Und dann wirklich rausgehen mit der Raumanzugsimulator wiegt fünfzig Kilo.

00:16:52: Das heißt, man ist dann ungefähr vier Stunden draußen und das sind dann wirklich diese Mange an Ressourcen, die man da auch hat.

00:16:58: Das spürt man dann einfach sehr stark.

00:17:00: Und da ist es wirklich diese perfekte Kombination zwischen Mensch und Maschine, die sowas dann auch ermöglicht.

00:17:08: Und was würdest du sagen, kann KI wirklich helfen, bessere Entscheidungen zu treffen oder besteht auch das Risiko, dass wir uns zu sehr auf sie verlassen?

00:17:15: Du hast ja vorhin schon gesagt, dass die Human Intelligence auf jeden Fall mindestens eine Rolle spielen sollte.

00:17:21: Aber wie siehst du das in deiner Berufspraxis?

00:17:27: Ich würde sagen, beides.

00:17:32: dass die Gefahr auf jeden Fall besteht, dass man sich zu sehr darauf verlässt, aber auf der anderen Seite sollte man sich aber auch darauf verlassen können.

00:17:38: Also man muss ja immer auch mal gucken mit der Transparenz, also es ist ethisch, diese ganzen Sachen, also diese explainable AI, finde ich sehr, sehr wichtig, dass man einfach weiß, warum wurden unterschiedliche Entscheidungen getroffen.

00:17:50: Und da ist es halt auch zum Beispiel jetzt nochmal zu der Frage davor zurück in diesen extremen Umgebungen.

00:17:55: Wenn man damit künstliche Intelligenz nämlich arbeitet, ist das meistens eine Überlebensfrage in dem Moment.

00:18:00: Und da ist es dann bei diesen Entscheidungen immer noch die Frage, würde ich da auf eine künstliche Intelligenz vertrauen oder eher auf eine Person?

00:18:08: Selbst wenn in manchen Fällen die künstliche Intelligenz besser ist, ist es immer noch die Frage, wie wir als Mensch aber auch reagieren intuitiv her, was man sagt, okay, das Notfall besteht, mir wird von ... So hat die PTI wird man in dem Fall nicht benutzen.

00:18:22: Aber ... Genau, dass man dann einfach überlegt, ich würde in dem Moment auf Mensch vertrauen, letztendlich.

00:18:31: Oder was brauche ich dafür, um der KI zu vertrauen?

00:18:35: Genau, da komme ich nämlich auch gleich zu meiner nächsten Frage.

00:18:38: Wie kann man Vertrauen in KI-Systeme schaffen, gerade so in Bereichen, in denen uns um Sicherheit, Verantwortung und Nachhaltigkeit geht?

00:18:47: Genau, also wirklich durch Transparenz, durch Erklärbarkeit.

00:18:52: und dass man dadurch dann durch Erfahrung und durch längeres Verwenden dann wirklich diesen Vertrauen aufbaut.

00:18:58: Denn letztendlich ist künstliche Lerns für uns ein Werkzeug und wir können das gestalten, wie wir es verwenden möchten und was es trainiert wird auch letztendlich.

00:19:09: Und wenn du in die Zukunft schaust, blickst du eher optimistisch oder sorgenvoll auf die Entwicklung von KI, wenn du jetzt auch das ein bisschen allgemeiner betrachtest, jetzt nicht nur aus deiner beruflichen Perspektive, sondern vielleicht so gesamtgesellschaftlich?

00:19:24: Ich würde auf jeden Fall sagen, ich bin optimistischer Realist und ich finde es sehr wichtig, dass wir künstlichen Gänze dafür einsetzen, wofür es wir.

00:19:35: Wofür wir es möchten, dass es so umgestaltet wird, dass wir gestalten, wofür KI eingesetzt wird, wofür wir KI verwenden.

00:19:42: Und da glaube ich immer, das ist gesellschaftlich.

00:19:46: die KI uns monotone Aufgaben abnehmen sollte, etwas, was wir recht am Alltag auch nicht gerne machen.

00:19:51: Also ich hätte gerne eine KI, die mein

00:19:53: Gesturch spürt.

00:19:55: Es hätte ich viel lieber als das der kreativen Jobs oder die Kreativität, Innovationen, was wir als Menschen sehr gerne machen, auch, dass uns das abgenommen wird.

00:20:04: Also ich glaube, dass wir da einfach die Entwicklung auch sehr stark steuern sollten als Gesellschaft, dass wir sagen, zum einen brauchen wir eine Regulation, nicht nur in Europa, sondern weltweit.

00:20:12: dass es wirklich ethisch bleibt und dass es nicht unterschiedliche Standards gibt bei der Entwicklung von KI, weil wir da eine Dispallung kommen.

00:20:20: und zum anderen, dass wir gestalten sollten, wie man künstliche Intelligenz, wie es weiterentwickelt wird und für was wir es letztendlich auch verwenden möchten.

00:20:30: Und was glaubst du, wie wird sich die Rolle des Menschen in einer zunehmend datengetriebenen und automatisierten Welt verändern?

00:20:38: Ich meine, wir merken das ja jetzt, ich finde, zwei fünfundzwanzig schon besonders.

00:20:43: Das wird sich ja weiter fortführen in den nächsten Jahren.

00:20:47: Wie schätzt du das ein?

00:20:50: Also, ich wünsche mir auf jeden Fall, dass die künstliche Undgänz uns unterstützt, wie auch bei dem Weltraummission und nicht ersetzt.

00:20:57: Und deshalb meine ich, was ich auch in der Forschung gesagt hatte, dass wir einfach gucken müssen, wo brauchen wir Unterstützung im Alltag?

00:21:04: Wie gesagt, bei Monotonen-Tätigkeiten.

00:21:07: und dass wir uns da wirklich dann auf das menschliche konzentrieren können, dass wir mit empatieren, dass das Funktionen konforgiger gaukelt werden, aber sowas kann momentan zwischendurch gar nicht ersetzt werden.

00:21:17: Obwohl es natürlich jetzt heutzutage auch schon einige gibt, die halt Chattypity als Therapeuten zum Beispiel verwenden, aber das sind genau die Sachen, in die Richtung, die wir vielleicht nicht gehen möchten.

00:21:29: Ja, also wir sehen das ja hier auch viel im Umgang mit künstlicher Intelligenz und dann eher aus der optimistischen Perspektive, was es alles möglich ist, gerade wenn die humanoiden Roboter irgendwann tatsächlich Einsatz bereit sind und in der Pflege helfen können.

00:21:44: In der Gastronomie sieht man das ja schon, diese kleinen Service Roboter, das finde ich gar nicht so verkehrt, weil man da ja schon Personalprobleme hat.

00:21:52: Also genau, wir sind hier als Haus ja auch so aufgestellt, dass wir sagen, wir vertrauen darauf, die AIKI, wie auch immer man das nennen möchte, zum Vorteil von Menschen sich entwickeln wird und nicht anders.

00:22:09: Genau, das hoffe ich auf jeden Fall auch.

00:22:12: Du warst ja mit deinem Vortrag Teil des Big Bang KI Festivals.

00:22:15: Was war denn da für dich der spannendste Moment oder die wichtigste Erkenntnis aus den zwei Tagen, die das Festival in Berlin stattgefunden hat?

00:22:23: Also ich fand es generell sehr, sehr spannend.

00:22:25: Ich fand es auch interessant, dass einige Politiker da waren, um einfach zu gucken, was passiert in der Hinsicht.

00:22:30: Denn wie gesagt, wenn ich da in Meinung, dass wir internationale Regulatorien brauchen und einfach in Deutschland auch gucken müssen, okay, was treibt uns voran?

00:22:37: Wo können wir Vorreiter werden, Vorreiterinnen?

00:22:40: Und das fand ich sehr spannend zum einen.

00:22:42: Aber für mich war ein absolutes Highlight auf jeden Fall, ehemalige Kolleginnen wieder zu treffen und auch neue Leute kennenzulernen.

00:22:49: Zum Beispiel Anke Borchers habe ich kennengelernt.

00:22:51: Hier war bei einem Panel von euch und die SKI-Strategien.

00:22:57: Und hat sich sehr, kennt sich sehr gut aus mit Entscheidungsprozessen und da haben wir dann sehr viel geredet, wie man das nicht machen kann, dann auch mit Weltraumanwendungen und so.

00:23:05: Und das war sehr, sehr spannend.

00:23:06: Und da sind wir jetzt auch weiterhin im Kontakt.

00:23:08: Und genau für sowas finde ich Konferenzen wunderbar.

00:23:13: Freue ich mich sehr darüber.

00:23:13: Das sind immer meine persönlichen Highlights, dann die persönlichen.

00:23:17: Ja, das freut mich.

00:23:18: Wir sind ja im September, zwei, sechs und zwanzig wieder in Berlin am sechzehnten, siebzehnten September vor Ort.

00:23:26: Ich hoffe, dass du dann vielleicht mit kleinem Anhang dabei bist.

00:23:33: Ich habe noch eine traditionelle Abschlussfrage, wenn du erlaubst.

00:23:38: Mit wem würdest du gerne beim nächsten Big Bang KI Festival einmal essen gehen?

00:23:43: und warum interessiert mich das am Ende so ein bisschen der Gossip Teil sozusagen?

00:23:48: Es wird total gerne mit Dario Amodai von der CEO vom Anthropic Essen gehen, weil ich das so schön finde, dass er nämlich optimistisch auf die KI guckt, dass er probiert, genau die KI sowieso zu gestalten, dass hier halt transparent und ethisch ist.

00:24:05: Das würde mich sehr interessieren, weil ich finde dann doch oft, dass auf diese Visionäre und sowas auch sehr science fictionmäßig unterwegs sind und er das negative vorgehoben wird, dass Terminator die Welt zerstören wird und sowas.

00:24:19: Aber deshalb würde ich mich sehr freuen, mal optimistische Visionäre.

00:24:24: auch dabei zu haben und da jemanden zu hören.

00:24:25: Und zu gucken, wie können wir die Welt positiv und optimistisch gestalten?

00:24:30: Du meinest ja auch gerade, dass ihr da sehr optimistisch unterwegs seid.

00:24:32: Das freut mich total.

00:24:36: Das wünsche ich mir einfach ein bisschen diese optimistische Gestaltung.

00:24:39: Wie können wir gemeinsam voran gehen, sodass wir da halt auch... Genau, vielen Leuten, die Angst nehmen können.

00:24:46: Und für sowas ist zum Beispiel auch das Big Bang Festival total wichtig, weil wir nämlich Ängste nehmen können durch Bildung und durch Verständnis.

00:24:53: Und da hat das sehr, sehr viel beigetragen, glaube ich, weil halt da sehr viel erklärt wurde und man einfach unter mich viel gelernt hat auch.

00:25:00: Und damit natürlich dann die Ängste auch abgebaut werden.

00:25:03: Liebe Carmen, das war ein perfektes Abschlusswort.

00:25:06: Ich hätte das nicht besser formulieren können.

00:25:09: Ich danke dir vielmals, dass du heute bei uns zu Gast warst und auch vor allem, dass du unser Big Ben KI Festival bereichert hast.

00:25:16: Und wie gesagt, die Einladung steht.

00:25:18: Ich hoffe, du kannst es dir einrichten.

00:25:21: Und wir hatten ja vor kurzem, was ich sehr beeindruckend fand, die erste Abgeordnete mit dem Baby im Bundestag am Rednerpult.

00:25:28: Ich würde mich freuen, wenn wir so ein Bild mit dir bei uns auf dem Big Ben KI.

00:25:32: Festival hätten.

00:25:36: Genau.

00:25:37: Also deine Geschichte zeigt ja wirklich auf eindrucksvolle Weise, wie Wissenschaft, Technologie und Neugier zusammenwirken können, wie viel Potenzial in dieser Verbindung von Mensch und Maschine stecken kann, ob in der Raumfahrt, beim Klima oder in der KI.

00:25:50: Du machst deutlich, wie wichtig es ist, die richtigen Fragen zu stellen und nicht aufzuhören, nach Antworten zu suchen.

00:25:56: Das finde ich sehr, sehr beeindruckend.

00:25:58: Und für alle, die jetzt Lust bekommen haben, tiefer in solche Themen einzutauchen oder beim nächsten Mal dabei zu sein, das BigBanker-I-Festival, im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im

00:26:32: Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr zuhören und bis zur nächsten Folge unseres Big Bang Podcasts.