Ein eigenes Large Language Model aufbauen – mit Torsten N., DKB

Shownotes

Hier geht es zur Umfrage: https://listening.sslsurvey.de/Data-Podcast

Alle Unternehmen wollen gerade etwas mit Künstlicher Intelligenz machen. Die wenigsten sind allerdings so weit, dass sie eigene Systeme einsetzen. Ganz anders sieht es bei der DKB, der Deutschen Kreditbank aus. Torsten Nahm, Head of Data Science, erklärt Jonas Rashedi, dem Host des Podcasts MY DATA IS BETTER THAN YOURS, was die DKB mit KI macht. Das Unternehmen hat ein eigenes Large Language Model erstellt und kann dadurch die Anfragen der Kund:innen in die verschiedenen Fachbereiche „sortieren“. Dafür musste zunächst die Infrastruktur aufgebaut werden – übrigens auch die Herausforderung, vor denen die meisten Unternehmen stehen, die zwar Daten sammeln, sie aber noch nicht strukturiert und zentral vorliegen haben. Torsten erklärt, wie Künstliche Intelligenz, Machine Learning, Natural Language Processing und Large Language Models zusammengehören und welche Schritte die DKB gemacht hat, um das eigene Modell aufzusetzen. Natürlich geht es dann – im Zusammenhang mit Sprache – auch um ChatGPT und wie dieses Modell trainiert wurde, um Finetuning und darum, wie man ein Sprachmodell so erstellt, dass es sich weltanschaulich neutral verhält. Auch der Datenschutz wird in dem Gespräch der beiden Experten nicht ausgelassen. Jonas stellt dann noch die ketzerische Frage, ob die Arbeit an Large Language Models durch ChatGPT unnötig war, doch Torsten sieht das als Wesen der Disruption, das nun noch mehr ermöglicht. Er erklärt, dass es zurzeit zwei Use Cases für Large Language Models gibt: Chatbots und Inhalte, also die Möglichkeit, ein Modell auf Basis der eigenen Inhalte zu trainieren, sodass man dann damit interagieren kann. Dieser Case spart unglaublich viel Zeit, nicht nur bei Banken, sondern auch im juristischen Bereich. Sein Tipp: Ein ehrliches Beratungsteam hilft dabei, eigene Modelle aufzusetzen und dafür zu sorgen, dass man nicht etwas baut, dem die Grundlage fehlt.

MY DATA IS BETTER THAN YOURS ist ein Projekt von BETTER THAN YOURS, der Marke für richtig gute Podcasts.

Zum LinkedIn-Profil von Torsten: https://www.linkedin.com/in/torstennahm/

Zur Webseite von DBK: https://www.dkb.de/

Zu allen wichtigen Links rund um Jonas und den Podcast: https://linktr.ee/jonas.rashedi

Zur Podcast Umfrage (Jede Woche wird ein Hoodie verlost!): https://listening.sslsurvey.de/Data-Podcast-Feedback

00:00:00 Intro und Begrüßung 00:01:19 Vorstellung Torsten Nahm 00:03:31 Seit wann gibt es KI? 00:05:17 Der Hype KI 00:06:51 Die Reise zu KI von der DKB 00:11:28 Menschliche Sprache ist komplex 00:13:30 Entwicklung von KI 00:20:17 Datenschutz und ChatGPT 00:22:11 Disruption und Testing 00:25:53 Wie startet man mit KI? 00:29:24 Use Cases für die Zukunft 00:32:07 Framework und Modelle 00:37:10 Tipps für den Start 00:39:34 Torsten’s Data-Game