Inhalt
00:00:00 Intro
00:02:29 Grenzübertritt
00:13:30 Stadtteilwanderung
00:22:16 Science-o-Mat
00:27:28 SFB 1242 Podcast
00:31:12 Botenstoff Podcast
00:35:49 Thema 1: “Das kann ich nicht tun, Dave”
01:15:33 Snackable Science
01:21:46 Thema 2: „Nicht nur sauber, sondern rein!“
01:39:40 Schwurbel der Woche
01:59:45 Hausmeisterei
02:05:47 Outro Folge 28
Wir sind auf Tour! Ihr wollt uns auf der Bühne sehen? Alle Termine und Tickets findet ihr hier – wir freuen uns auf euch!
Der Science-O-Mat gibt keine Wahlempfehlung, sondern stellt ein Informationsangebot über die Positionen der zur Wahl antretenden Parteien und sonstigen politischen Vereinigungen dar. Der Fokus liegt auf den Themen der Scientists for Future (S4F)!
Nicolas‘ Sonderforschungsbereich 1242 hat einen Podcast! Die Folgen findet ihr auch hier.
Thema 1 (Nicolas): „Das kann ich nicht tun, Dave“ – werden KIs irgendwann in der Lage sein, zu lügen? Oder sind sie es sogar schon? Die Studie zeigt zumindest, dass KIs Lüge bzw, Täuschung als Strategie umsetzen, um an ein Ziel zu kommen.
Snackable Science: „Bienen fliegen nicht nachts“ – Bienen machen keine Nachtschicht!
Thema 2 (Reini): „Nicht nur sauber, sondern rein!“ – Quantencomputer sind ein großes Forschungsgebiet – um die Rechenleistung und Fehlerquote bisheriger Modelle zu verbessern, hat eine Forschungsgruppe das bisher reinste Silizium hergestellt!
Schwurbel der Woche: „QiBlanco“ – nach dringendem Wunsch von euch, hier der Anhänger von QiOne! Wirkt das Ding? Mikroskop sagt ja!
Hausmeisterei:
- Am 24.05. bekommen wir im Rahmen der Langen Nacht der Forschung in Wien den Oberhummer Award verliehen! Wir haben auch eine Show vorbereitet 🙂 Um 20:30 geht es los!
- Am 26.05. sind wir in Paderborn!
- Am 02.06. sind wir in Dortmund!
- Outro: „Der Geräteantrag“ (Intro Folge 28)
Wichtige Adressen:
- Unsere Live-Termine und Tickets für unsere Show findet ihr hier!
- Zu unserem Newsletter könnt ihr euch hier anmelden!
- Folge uns gerne auf Mastodon, Instagram oder YouTube!
- Hier findet ihr unseren Discord
- Modisch inkorrektes Merch gibt es hier!
- Hier findet ihr alle Möglichkeiten, uns zu unterstützen!
- Minkorrekt! ohne Werbung bekommt ihr bei Steady
- Alle Werbepartner findet Ihr in diesem Linktree!
Die MS Wissenschaft ist seit heute wieder unterwegs: https://ms-wissenschaft.de/de/
Grüße!
Wie immer vielen Dank für eine super Podcast, trotz Stromausfall und Eispause.
Zur Werbung: es tut weh, Nicolas für EBikes werben zu hören 🙁 Hoffe es war das Geld wenigstens wert 😉
Spannede Folge. Die ganze Grneze Zoll geschichte erinner mich an eine Reportage über die Zollbürokratie an der Europäisch-Britischen Grenze nach den Brexit.
https://www.youtube.com/watch?v=oDtS88_W6Cg
Hallo Ihr beiden,
danke für die schöne Sendung, die Spannung, ob die Powerbank hält, war ja unerträglich 😉
Bei dem Wort Carnet-ATA und der Beschreibung der Zollstube und der vielen Stempel habe ich mich gleich heimisch gefühlt. Ich habe in den 80ern 3 Jahre lang Verzollungen in einer Spedition gemacht, und kenne von da alle gängigen Zolldokumente.
Ich war trotzdem erstaunt, dass das Ausfuhr- und Rückeinfuhr-Verfahren immer noch so äh papierig ist, hätte gedacht, dass das inzwischen elektronisch abgewickelt werden kann.
Wir mussten früher immer für das sogenannte Sammelzollverfahren das Zolldokument T2 mit einem ca. 15 x 10 cm großen Stempel (viiiiel Text) stempeln und den noch händisch mit Datumskram ausfüllen. Ich neigte da zu einer gewissen Schlampigkeit und wurde nicht nur einmal vom Zollbeamten gerügt, dass ich den Stempel doch bitte leserlich aufbringen soll. Als ich dann einmal meinte, er kenne doch den Text, hat er mehr als sparsam geguckt.
Zur Info, die Schweiz gehört zur EFTA, und normale Ex-/Importabwicklung mit der EU ist da nicht allzu schwierig. (Ganz im Gegensatz zu dem, was die UK mit dem Brexit angerichtet und sich der ganzen Welt gegenüber in ein Drittland verwandelt hat. )
Zur wissenschaftlichen Sprache:
wie erwähnt, bin beruflich in der Speditionsbranche unterwegs, Schulabschluss Mittlere Reife, meine Berührungspunkte mit der Wissenschaft vor Eurem Podcast tendierten gegen Null.
Ich glaube, Euch ist auch gar nicht klar, wie völlig anders Ihr Wissenschaftler sprecht, selbst wenn Ihr meint, normale Sätze zu formulieren. Mein Lieblingsbeispiel, Nicolas sagt häufig, wenn er etwas zu Problemen sagt „das ist nicht trivial“. Inzwischen lauer ich förmlich drauf, dass das fällt, und es kommt häufig vor. Und ich will diesen Satz zu gerne mal selbst anwenden, vergesse es aber immer.
Auch nette Dinge: „Das ist zu unterkomplex“, „Das ist ein multivariables Problem“
auch schöne Beispiele!
Zum Thema „trivial“: wer Physik studiert hat, wird sich an diesen Satz erinnern, v.a. aus Mathevorlesungen wo dann eine Tafel voll „einfache“ Rechenschritte ausgelassen werden, weil es für den Prof. nur faule Fleißarbeit ist, aber uU für den Studenten nicht trivial.
Ich finde Hinweise wie deinen oben super wichtig, selbst wenn Minkorrekt eine sehr hohe Akademikerquote haben sollte, die Welt da draußen redet normal und weiß weder was CVD oder eben Ringvorlesungen ist, ich finde es gut, dass Reinicola es auf Hinweis immer mal wieder erklären 🙂
„trivial“ bedeutet für den Studenten eine Stunde Arbeit. 😉
Wie immer eine sehr unterhaltsame Folge!
Da mehrfach über Essen gesprochen wurde, wollte ich an dieser Stelle einfach mal fragen: Inwiefern habt Ihr Euch bereits mit dem Thema „Veganismus“ auseinander gesetzt? Von dem persönlichen Vorteil einer gesünderen Ernährung abgesehen, solltet Ihr ja auch als Wissenschaftler wissen, dass der Konsum tierischer Lebensmittel die Klimakatastrophe unnötig vorantreibt. Zudem gibt es mittlerweile so viele Alternativen, dass man ohne große Einschränkungen darauf verzichten kann.
Vor ca. zwei Jahren (?) hatte Reini mal mit seiner Frau einen veganen Monat ausprobiert und hin und wieder davon berichtet. Auch von Sachen im Alltag oder den unpraktischen oder unangenehmen Situationen, wenn man zum Beispiel mit dem (omnivoren) Freundeskreis was essen gehen will und man schauen muss, wo man am besten hingeht.
Ich kann mich nicht mehr genau an das Schlussfazit erinnern, aber ich hab noch sehr in Erinnerung, dass Reini „nie auf Käse verzichten könnte“.
(Oder wie ich sagen würde:
Doch, du könntest das, aber du willst nicht. :))
Ich fand dieses damalige Alltagsexperiment und die kleinen Berichte aber auf jeden Fall eine schöne Sache.
Danke an die Hörerin, die den Tipp gegeben hat, daß Reservix einem auf Zuruf die Servicegebühr wieder erstattet. Hatte auch nach wenigen Stunden meine 2 Euro wieder – nachdem ich einen formlosen Zweizeiler an Reservix geschrieben hatte. Aufwand weniger als 3 Minuten …
Ist Veganismus wirklich gesund oder kann man maximal eine Mangelernährung vermeiden? Der Mensch hat in seiner Entwicklungsgeschichte je eher selten Kohlenhydrate zu sich genommen; hier mal ein paar Beeren, da eine Wurzelknolle. Unsere Ernährung jetzt bewusst und nicht aus Zwang umzustellen wäre ein einmaliges Ereignis in unserer Geschichte. Andere sprechen ja davon, die Proteinzufuhr eher auf andere Quellen umzustellen, wie Insekten.
Zum Punkt hat die KI bewusst gelogen oder war das ein Ergebnis was eine Folge der erlernten Vorgaben war – ich finde das ist relativ unerheblich, weil der Impact gewaltig sein kann. Reini hat das auch angedeutet: wenn dadurch ungewollte Aktionen passieren ist es relativ unerheblich ob das unter Einfluss eines Bewusstseins geschah. Finde ich.
LG Omm
Also, einem LLM, das im Wesentlichen darauf trainiert wurde, Texte so zu vervollständigen wie Menschen das tun würde „Täuschung“ vorzuwerfen, wenn das Ergebnis so klingt wie von einem Menschen geschrieben, erscheint nicht gerechtfertigt.
Einen Täuschungsversuch wäre das doch nur, wenn der Prompt ChatGPT explizit angewiesen hätte, sich nicht als Mensch auszugeben, oder?
Habe mir aufgrund der Erwähnung gestern den Film https://en.wikipedia.org/wiki/The_Invention_of_Lying angesehen.
Die zugrundelegende Prämisse ist ganz witzig. Hat so Murmeltier-Vibes, finde ich.
Jedoch die Umsetzung ist leider unter meinen Erwartungen gelegen. Aus dem Stoff könnte man glaube ich wesentlich mehr machen. Trotzdem unterhaltsam und überraschend gut besetzt.
Was moderne KI-Systeme können, ist sehr gut statische Zusammenhänge in großen Textmengen zu finden und diese dann wieder zusammen zu würfeln, um eine Ausgabe zu generieren. Und da hört es dann auch auf. Ja, das ist alles sehr beeindruckend usw. Aber das ist im Prinzip nur vergleichsweise simple Mathematik (vielleicht kennt ihr Markov-Ketten; in die Richtung geht das, nur halt auf Level 1000 gebracht), und durch die Verfügbarkeit großer Datenmengen und leistungsfähiger Rechner möglich geworden. Aber man sollte sich da nicht zur Anthromorophisierung verleiten lassen. Wenn die KI sagt, sie ist „visually impared“, lügt sie nicht. Sie repliziert diese Ausgabe aus statischen Zusammenhängen, die sie in den Daten gefunden hat. KIs halluzinieren auch nicht. Und KIs haben auch keinerlei Verständnis von natürlicher Sprache. Das sind alles nur Zeichen, bzw. Vektoren. Ende.
Vielleicht auch interessant: https://de.wikipedia.org/wiki/Chinesisches_Zimmer
Etwas zu ki:
Ich hab ChatGPT nach funfacts über Bayern (ja, ich weiß, aber da komm ich her) gefragt.
Immer einen und dann „mehr“.
Beim 6ten oder so hat er etwas erfinden.
Ich hab ihn darauf angesprochen warum er das getan hat.
Die Antwort hat sich angehört, als wäre ihm es peinlich nicht mehr zu wissen und er wollte mich unterhalten. Ihr könnt gerne versuchen das zu reproduzieren, hab den Chat leider Gedankenlos gelöscht.
Aber seitdem ist bei ChatGPT immer der erste prompt:
„Ich möchte dass du die Antworten checkst.
Wenn du etwas nicht weißt oder dir nicht sicher bist sage es mir, das ist kein Problem, ich möchte es nur wissen.
gebe wenn möglich quellen an.“
Bei dem Paper über lügende KI musste ich an diese kurzen Videos von Computerphile denken: Ein Beispiel, dass man Aufträge an eine KI sehr schwierig bis unmöglich ungefährlich formulieren kann. Sogar Aufträge, die komplett harmlos wirken, sind es nicht: https://youtu.be/tcdVC4e6EV4?feature=shared.
Und ein schönes Beispiel für das Lügen. Er nennt es aber nicht so, sondern „to volkswagen“. Sehr passend und verständlich, das Wort: https://youtu.be/3TYT1QfdfsM?feature=shared
Hallo Ihr Zwei,
Bei MI298 @ ca. 1:10 Std. sagt Reini, dass wir als Menschheit unterschiedliche moralische Werte hätten. Dies ist nach meinem Wissen nicht der aktuelle Stand der Forschung. Z.B. Rudger Brechmann („Im Grunde gut“) oder auch Michael Sandel (Moralphylosoph in Harvard) nennen viele Beispiele, dass die Grundwerte, wie sie sich auch in vielen Religionen finden, überall gleich sind. Bekannt dazu ist John Rawls mit seiner Grechtigkeitstheorie „Schleier des Nichtwissens“ (https://de.wikipedia.org/wiki/Schleier_des_Nichtwissens?wprov=sfla1)
Es gibt aber überall unter Menschen Psycho- oder Soziopathen, die diese Grundwerte nicht haben. Oftmals sind es leider diese, die an die Macht kommen und so Reinis Narrativ populär machten.
Ansonsten wieder eine großartige Folge!
Liebe Grüße!
1. Ich kann euch versichern, dass wir von einer sogenannten künstlichen generellen Intelligenz meilenweit entfernt sind und ihr keine Angst zu haben braucht, dass diese in naher Zukunft die Weltherrschaft übernehmen, die Menschheit unterjochen oder menschenähnliches Bewusstsein entwickeln werden.
Quelle: Ich bin ein frei von Hype denkender Informatiker, der sich ein wenig damit beschäftigt.
2. Sicherlich ist Lügen weit verbreitet, aber dass es zum sozialen Spiel dazugehören solle, finde ich schon hart. Ich finde Lügen absolut furchtbar – bei anderen, und bei mir selbst, soweit ich mich noch daran erinnern kann. Ich komme super ohne Lügen zurecht und kann nicht behaupten, dass andere ungern mit mir zu reden scheinen. Ebenso wünsche ich mir auch von anderen, dass sie wenigstens mir gegenüber nicht lügen. Durch eine Lüge würde ich mich niemals besser fühlen – vielleicht kurzfristig, aber nie in der Gesamtrechnung (Change my mind!).
Vielleicht habt ihr bei euren Ausführungen vergessen, dass es immer mehrere Arten gibt, sich zu äußern. Fast jede Aussage lässt sich auf eine verletzende und auf eine höfliche Art äußern. Wenn ich merke, dass ein Inhalt heikel ist, dann überlege ich eben kurz, um eine nette Formulierung zu finden (z. B. gewaltfreie Kommunikation/Ich-Botschaften). Im Zweifel sagt mensch eben: „Darauf möchte ich nicht antworten.“ Dadurch wird lügen „automatisch“ unnötig. Zu lügen, damit jemand anderes sich besser fühlt, gleicht in meinem Wertesystem eher einem Verrat, der beiden schadet. Ich werde mal herumfragen, wie mein Freundeskreis das sieht.
Eine echte Freundin erkennst du nicht daran, dass sie nett zu dir ist, sondern dass sie dir die Wahrheit sagt.
Moin,
ich hänge eine Folge hinterher, daher der späte Kommentar. Ich habe mich vor kurzer Zeit beruflich mit dem trainieren von „KIs“ für die Bilderkennung beschäftigt, bin aber bei weitem kein Experte, würde aber dennoch gerne etwas zu dem KI paper einwerfen.
Ein Zitat gleich vom Anfang:
„This paper argues that a range of current AI systems have learned how to deceive humans.“
Deceive meint vorsätzlich täuschen. Das impliziert einige Dinge. Beispielsweise muss dafür die KI die eigentliche Aufgabe verstanden haben und auch wissen, dass sie jetzt gerade eine Täuschung vornimmt. Als Beispiel nehme ich den Roboter-Arm, der den Ball greifen soll: Hier muss die KI wissen, dass sie den Ball greifen soll, damit sie den Menschen täuschen kann.
Die tatsächliche Aufgabenstellung nennt das Paper aber selber: „One popular approach to AI training today is reinforcement learning with human feedback (RLHF). Here, instead of training an AI system on an objective metric, the AI system is trained to obtain human approval, in that it is rewarded based on which of the two presented output options is preferred by the human reviewer.“
Für die KI ist in dieser Aufgabenstellung eben gerade nicht das Ziel den Ball zu greifen, sondern ein approval durch den „human reviewer“ zu bekommen. Den Roboter-Arm so zu halten, dass der Mensch sein Approval gibt, ist also vollkommen Regelkonform und aus Sicht der KI, die ja die Aufgabenstellung selbst exploriert und nicht kennt, vollkommen in Ordnung.
Vor allem ist das aber keine Täuschung, weil der Trainingsaufbau genau diesen Fall einschließt. Das ist ein Fall von einer unklaren Aufgabenbeschreibung, bzw. ein für den angedachten Auftrag ungeeigneter Trainingsaufbau oder ein ungeeigneter Reviewer.
Man interpretiert hier vorschnell ein Bewusstsein in die KI. In Wirklichkeit aber sind KIs auf derzeitigem Niveau die Lösungsansätze für Optimierungsprobleme und zwar optimieren sich die Netze gegen eine Bewertungsmetrik. Das gilt auch für ChatGPT. Die Metrik ist hier die Wahrscheinlichkeit für die Akzeptanz durch einen Menschen. Daher kann ChatGPT auch einfach „Lügen“: Aus Sicht der KI hat die Antwort eine hohe Akzeptanzwahrscheinlichkeit. Der Kontext selber ist vollkommen egal und wenn man etwas mit ChatGPT herum spielt bemerkt man auch, dass die KI kein Kontextverständnis hat. Das wäre aber relevant dafür, tatsächlich zu Täuschen – also „to deceive“ wie im Paper benutzt. Die Täuschung ist hier vielmehr, dass die KI ein Kontextverständnis vortäuscht, dass sie tatsächlich nicht besitzt. Wenn man Alan Turings Immitation Game hernimmt, können wir das aber nur schlecht unterscheiden. Vor allem wenn uns selber das Kontextverständnis fehlt.
Mir viel Spontan ein Gedankenexperiment ein, dass ich mal irgendwo gelesen habe (Quelle konnte ich nicht finden):
Alice sitzt in einer Box und schaut auf ein Display. Auf diesem Display werden unterschiedliche Farben angezeigt werden. Sie hat außerdem einen Schalter vor sich und eine Luke aus der entweder eine Praline oder ein Stück Knäckebrot heraus fällt.
Bob sitzt im Nebenraum und beurteilt die Eingaben von Alice, je nach Ergebnis bekommt sie eine Praline oder ein Knäckebrot. Nur Bob kennt die eigentliche Aufgabenstellung.
Das Experiment beginnt und Alice drückt bei jeder Farbe die angezeigt wird, erst Mal auf den Knopf. Blau führt dazu, dass ein Knäckebrot aus der Luke kommt. Gelb ebenfalls. Bei Rot allerdings kommt eine Praline aus der Luke. Nach einigen Runden hat Alice den dreh raus und bekommt für jedes Mal „rot“ eine Praline und jedes Mal „grün“ eine Praline.
Alice hat erreicht möglichst viele Pralinen zu bekommen. Die Aufgabenstellung war offensichtlich die Farben rot und grün zu erkennen.
Die tatsächliche Aufgabenstellung war, dass jedes Mal bei der Farbe grün der Knopf gedrückt wird. Nur leider hat Bob eine Rot-Grün-Schwäche und gibt fälschlicherweise bei Rot ebenfalls eine Praline heraus.
Die Frage: Hat Alice nun wissentlich Bobs Sehschwäche experimentell ermittelt und ausgenutzt? Oder hat Alice hier die Aufgabe aus ihrer Sicht korrekt erfüllt?
Man sieht dieses optimieren gegen Metriken übrigens überall, beispielsweise bei der Vereinbarung von Zielen im Job. Man kann dieses Verhalten auch bei der Bahn in der Netzwartung sehr deutlich sehen – Optimierungsziel für die Bahn bzw. das Bahnmanagement ist die Gewinnsteigerung im Beobachtungszeitraum. Es gibt daher keinen Grund das Netz zu Warten, so lange Umsatz gemacht wird, denn dadurch entstehen Kosten, die den Gewinn kurzfristig senken. Auf die langfristige Gewinnprognose wird aber nicht geachtet. Es ist daher bei einer Brücke gänzlich im Sinne der Optimierung, diese Verfallen zu lassen bis der Bund eine neue Brücke baut, da hierdurch der höchste Gewinn erzielt werden kann. Metrik erfüllt.