Am 18. und 19. April 2024 fand das 18. Internationale For..Net Symposium in den Räumlichkeiten der Industrie- und Handelskammer für München und Oberbayern statt. Das Symposium stand in diesem Jahr unter Schirmherrschaft des Bayerischen Staatsministers für Justiz, Georg Eisenreich, MdL, und wurde erneut durch das TUM Center for Digital Public Services (TUM CDPS) und das Bayerische Forschungsinstitut für Digitale Transformation (bidt) ausgerichtet. Mit dem Internationalen For..Net Symposium werden seit über 15 Jahren hochkarätige Referentinnen und Referenten nach Passau und seit 2022 in die bayerische Landeshauptstadt München eingeladen. Das diesjährige Symposium stand unter dem Motto: “Wahrheit – Macht – Rechtsstaat: Generative KI im Spiegel von Recht, Technik und Gesellschaft”.
Tag 1 – Donnerstag 18.04.2024
Dr. Christoph Egle, Geschäftsführer des bidt, eröffnete den ersten Tag der Veranstaltung mit einer Begrüßung und stellte dabei den neuen Forschungsschwerpunkt des bidt „Trust in Human-AI Co-Creation“ vor.
Anschließend hob Sarah Rachut in ihrer Eröffnungsrede, Geschäftsführerin des TUM CDPS, die Relevanz der Wahrheit angesichts einer möglichen Machtverschiebung durch Desinformation hervor, die durch generative KI entstehen kann. Sie wies dabei bereits auf das ForNet-Labor hin, das am Nachmittag des Symposiums einen praxisnahen Einblick in die Thematik bieten würde.
Die Moderation des ersten Veranstaltungstages übernahm Professor Dr. Dirk Heckmann, Inhaber des Lehrstuhls für Recht und Sicherheit der Digitalisierung an der TU München, Mitglied des Bayerischen Verfassungsgerichtshofs sowie des bidt-Direktoriums sowie TUM CDPS-Direktor.
Georg Eisenreich, MdL, Bayerischer Staatsminister der Justiz, hielt seine Keynote-Rede über die transformative Kraft der generativen KI und deren potenzielle Auswirkungen auf verschiedene Gesellschaftsbereiche.
Dabei unterstrich er die Bedeutung, die Chancen der KI zu nutzen und gleichzeitig mögliche Regulierungsbedarfe zu erkennen. Besondere Herausforderungen sah er in der Bekämpfung von Deepfakes, der Anerkennung von menschlicher Kreativität im Zusammenhang mit dem Urheberrecht und Verhinderung von diskriminierenden Inhalten.
Als zweiter Referent sprach Reinhard Karger, Unternehmenssprecher des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), über das Verhältnis zwischen maschineller Intelligenz und dem menschlichen Monopol. Die revolutionäre Anthropologie des menschlichen Kollektivsubjekts und die Vorteile einer integrativen KI, die es ermöglicht, alle Zusammenhänge besser zu verstehen, waren Teil seines Vortrags.
Im Anschluss daran präsentierte Tom Brägelmann, LL.M., Rechtsanwalt der Annerton Rechtsanwaltsgesellschaft mbH, die Potenziale generativer KI im Bereich der Rechtswissenschaft. Anhand praktischer Beispiele – darunter auch ein Fall, in dem einem Studenten der Zugang zu einem Master-Studiengang aufgrund des Vorwurfs nicht kenntlich gemachter KI-Nutzung beim Bewerbungsschreiben verweigert wurde – verdeutlichte er die Rolle von KI-Systemen bei der Erstellung von juristischen Dokumenten und der Unterstützung bei der Rechtsberatung.
In der anschließenden Diskussion hoben die Referenten die Bedeutung hervor, die Grenzen der generativen KI zu verstehen und einen echten Dialog zwischen Mensch und Maschine zu ermöglichen. Es wurde deutlich, dass KI die Juristerei nicht ablösen, sondern vielmehr positiv mitgestalten wird. Kritisch wurden hingegen mögliche Gesetzeslücken und Herausforderungen in Bezug auf die Regulierung von KI diskutiert sowie die Frage, ob die Technik das Recht formt oder das Recht die Technik.
Nach einer gemeinsamen Kaffeepause widmete sich der zweite Teil des Symposiums der Demokratiegefährdung durch Deepfakes und Desinformation.
Diesen zweiten Themenbereich eröffnete Chan-jo Jun, Rechtsanwalt bei Jun Rechtsanwälte und Mitglied des Bayerischen Verfassungsgerichtshofs. Er sprach über die Bedrohung der Demokratie durch Desinformation und die Rolle von Deepfakes. Er veranschaulichte humorvoll, wie eine Demokratie zerstört werden kann, und betonte die Notwendigkeit effektiver Regulierung, um die Glaubwürdigkeit von Informationen und staatlichen Institutionen zu schützen.
Hierauf lieferten Tahireh Panahi, wissenschaftliche Mitarbeiterin an der Universität Kassel und im BMBF-Projekt „Dynamiken der Desinformation Erkennen und Bekämpfen“ (DYNAMO), und Ann Cathrin Riedel, Geschäftsführerin von NEXT e.V., Impulse aus gesellschaftspolitischer und rechtlicher Sicht. Sie zeigten die aktuellen Herausforderungen bei der Regulierung von Desinformation auf und schlugen Verbesserungen im Rahmen des Europäischen Rechts vor, um dieser Bedrohung wirksam zu begegnen.
Fay Carathanassis, wissenschaftliche Mitarbeiterin am Lehrstuhl für Recht und Sicherheit der Digitalisierung an der TU München und wissenschaftliche Referentin am bidt, leitete daraufhin die Diskussionsrunde mit den Referentinnen und den Referenten dieses Themenblocks. Dabei lud sie auch Dr. Jessica Flint, LL.M., Rechtsanwältin bei Jun Rechtsanwälte, auf die Bühne ein. Sie hatte zum Thema „Fake News im Wahlkampf. Eine Untersuchung der rechtlichen Problemstellung der Desinformation in sozialen Netzwerken am Beispiel von Facebook“ promoviert und unterstützt Herrn Jun auch in Rechtsfragen betreffend diesen Themenkomplex. Die Runde setzte sich vor allem mit dem Problemfeld der Desinformation in demokratischen Gesellschaften auseinander und diskutierte intensiv den Begriff der „Wahrheit“.
Dabei stellte Frau Carathanassis fest, dass eine objektive Wahrheit nur sehr schwer zu bestimmen ist. Bereichert durch Publikumsfragen setzte sich die Runde mit Lösungsstrategien auseinander und beleuchtete weitere Aspekte wie die Rolle privater Akteure und Akteurinnen, dabei insbesondere Unternehmen, und deren Umgang mit Desinformation.
Franziska Weindauer, Geschäftsführerin des TÜV AI.Labs, setzte das Programm mit einem Vortrag zum Thema KI als Herausforderung für Zertifizierung und Qualitätssicherung fort. Der Schwerpunkt ihres Vortrags lag auf der neuen KI-Verordnung, wobei sie hier illustrativ verdeutlichte, wie eine Prüfung KI-basierter Technologie beim TÜV abläuft. Sie veranschaulichte das Prüfprogramm anhand eines zu prüfenden Fahrzeuges. Zudem beleuchtete sie Besonderheiten, die im Zusammenhang mit KI-Regulierung zukünftig wichtig werden, und gab eine Übersicht über den aktuellen Stand der Qualitätssicherung.
Danach stellte sie sich den begeisterten Fragen von Professor Heckmann in einem Gespräch auf der Bühne.
Um 18:15 Uhr begann das For..Net Labor zum Thema: „Generative KI zum Anfassen“, welches von dem Bayerischen KI-Agentur baiosphere. Die Teilnehmenden konnten diverse KI-gestützte Roboter bestaunen, ebenso wie sich mit einem KI-sprachbasierten Roboterkopf unterhalten. Insgesamt boten die Aussteller und Ausstellerinnen einen interessanten Einblick in die Welt KI-gestützter Technologien. Dazu gehörten das Zentrum für angewandte KI und Transfer (AN[ki]T) der Hochschule Ansbach, das ELLSI Lernlabor der Hochschule Augsburg, EduPin und SVAN der TU München sowie das Munich Center for Machine Learning (MCML).
Tag 1 – Donnerstag 18.04.2024 – Abendgala
Im Anschluss begann der feierliche Galaabend mit einem kurzen Sektempfang. Professor Heckmann leitete daraufhin die Verleihung des 11. For..Net Awards ein und begrüßte Laudatorin Su Reiter, vorjährige Preisträgerin des For..Net Media Awards.
Die diesjährige Gewinnerin, Inga Bergen, ist eine Top Voice auf LinkedIn und ihr Podcast ist in den Top 20 der weltweiten Medizinpodcasts. Su Reiter hob in ihrer Laudatio die Vorreiterposition der Preisträgerin im Bereich digitale Gesundheit hervor und pries ihr Engagement für die Verbesserung menschlicher Lebensbedingungen. Als Preispate diente – wie bereits die Jahre davor – der Verlag juris
Zusätzlich zum For..Net Award erhielt Inga Bergen eine persönliche Videobotschaft mit Glückwünschen von Judith Gerlach, MdL, Bayerischen Staatsministerin für Gesundheit, Pflege und Prävention. In ihrer Dankesrede stimmte Frau Bergen das Publikum positiv und stellte fest, dass sie zum ersten Mal seit Jahren das Gefühl habe, die Digitalisierung im medizinischen Bereich gehe in die richtige Richtung.
Nach kurzer Stärkung am Galabuffet setzte der Abend mit drei Pitches für den For..Net Media Award fort.
Zunächst stellte sich Lina Kessler, Gründerin von “This is legal Design”, vor und präsentierte ihren designorientierten Ansatz im Bereich Legal Tech.
Julia Kloiber konfrontierte das Publikum im zweiten Pitch mit der Lebensrealität von “Content Moderatoren”, die Inhalte von Social-Media-Plattformen filtern müssen.
Der letzte Pitch erfolgte von Professorin Dr. Katharina Zweig, welche Themen- und Risikobereiche von KI vor allem durch anschauliche Comics näherbringt.
Während das Publikum live über die Person der Preisträgerin abstimmte, hielt Professor Dr. Stefan Heinemann, wissenschaftlicher Direktor des HAUPTSTADTKONGRESS Labs, eine musikalische Dinner-Rede.
Er widmete sich der KI im musikalischen Bereich und zeigte positive und negative Aspekte von KI in der Musik auf. Zum Abschluss seiner Rede performten er und seine Frau Saskia Heinemann das bekannte Lied „Something Stupid“ von Frank und Nancy Sinatra.
Im Anschluss wurde die Preisträgerin des 5. For..Net Media Awards bekannt gegeben: Julia Kloiber konnte die Publikumsjury schließlich überzeugen. Die Preisskulptur wurde durch Professor Heckmann und dem Preispaten Hubert Burda Media – stellvertretend vor Ort Dr. Martin Scheurer – überreicht.
Isabelle Ewald, ehemalige Preisträgerin des For..Net Media Awards, hielt die Laudatio für Frau Kloiber und brachte ihre Bewunderung für Kloibers beherzten Einsatz zum Ausdruck. Dabei hob sie hervor, wie wichtig es ist, gerade ein solches Engagement gebührend zu würdigen.
Der Abend wurde abgerundet durch ein kleines Dessert und die Preisübergabe an die Gewinnerinnen und Gewinner der Tombola.
Tag 2 – Freitag 19.04.2024
Die Moderation für den zweiten Veranstaltungstag übernahm Frau Carathanassis.
Erste Referentin des zweiten Veranstaltungstages war Professorin Dr. Paulina Jo Pesch. Sie ist Juniorprofessorin an der Friedrich-Alexander-Universität Erlangen-Nürnberg und spezialisiert auf Künstliche Intelligenz im Recht.
Der nächste Referent des Tages war der Münchner Rechtsanwalt und Softwareentwickler Dr. Jonas Siglmüller, welcher in seiner Kanzlei Aitava Rechtsanwaltsgesellschaft mbH internationale Unternehmen zu Rechtsfragen rund um digitale Produkte und Geschäftsmodelle mit Fokus auf Künstliche Intelligenz und cloudbasierte Technologien berät.
In seinem Vortrag referierte er über die Einsatzmöglichkeiten generativer KI in der anwaltlichen Beratungspraxis und zeigte die entsprechenden Hürden und Potentiale auf. Dabei behandelte er insbesondere die standes-, urheber- und datenschutzrechtlichen Voraussetzungen und auch mögliche Einschränkungen bei Training und Nutzung generativer KI in puncto Berufsgeheimnisschutz. Dabei beschränkte sich Dr. Siglmüller nicht lediglich auf rechtliche Ausführungen, sondern erläuterte den Teilnehmerinnen und Teilnehmern Grundzüge der technischen Funktionsweise von KI-Lösungen. Dabei klärte er auch über die Gefahren sog. „Prompt Injection Attacks“ auf.
Als nächstes nutzte Lydia Kämpfe, Justitiarin und 2. Stellvertreterin des Landesbeauftragten für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern, die Gelegenheit, über die Aufgaben der Datenschutzaufsicht aufzuklären und das jedem zustehende Beschwerderecht in Erinnerung zu rufen. Die Datenschutzaufsicht werde mit KI regelmäßig in Form von Beratungsanfragen sowohl von betroffenen Personen als auch von Verantwortlichen konfrontiert. Insbesondere Programme zur Aggressionserkennung oder Beweismittelauswertung wären in ihrer späteren Anwendung zwar datenschutzrechtlich oft unkritisch, das vorgelagerte maschinelle Lernen in Form eines Trainings mit Echtdaten in den meisten Fällen datenschutzrechtlich jedoch nicht bedenkenlos möglich.
Anschließend wies Professor Heckmann auf die 30. D-A-CH-Tagung der Deutschen Gesellschaft für Recht und Informatik e. V. (DRGI) hin – und zwar mit musikalischer und visueller Unterstützung durch ein von Prof. Dr. Dr. Walter Blocher gepromptetes KI-Musikvideo. Die Tagung wird unter dem Motto „Where Mozartkugel meets AI“ vom 27. bis 29. Juni 2024 in Salzburg stattfinden.
Nach der Pause folgte eine Diskussionsrunde, in der sich Professorin Pesch und Frau Kämpfe unter der Moderation von Frau Carathanassis zu den Herausforderungen generativer KI austauschten und den Fragen des Publikums stellten.
Besprochen wurden insbesondere das Erfordernis der thematischen KI-Spezialisierung und die Frage, ob es künftig vermehrt spezielle KI-Abteilungen bräuchte. Dabei könne ein zu hoher Spezialisierungsgrad jedoch in der Folge auch zu Übersetzungsproblemen zwischen Fachtechnikern und Fachjuristen führen. Allgemein dürfte vermehrter KI-Einsatz außerdem dazu führen, dass soziale Unterschiede nivelliert würden. Professorin Pesch mahnte insbesondere an, dass in diesem Kontext nicht nur alte Probleme, sondern auch Nicht-Probleme diskutiert würden. So sei es schon seit langem gang und gäbe, dass sich Studierende aus akademischen Elternhäusern ihre Hausarbeiten zumindest von ihren Eltern oder anderen Verwandten Korrekturlesen ließen. Wenn diesen Part nun also für weniger privilegierte Studierende auch eine KI übernehmen kann, führe das eher zu einer Chancengerechtigkeit.
Den Abschluss des zweiten Tages bildete ein Vortrag von Professor Heckmann und Frau Rachut unter dem Motto „Trust in Co-Creation“, in dem sie zu rechtssicheren Hochschulprüfungen mit und trotz ChatGPT referierten.
Dabei verbanden sie ihren Vortrag zugleich mit einem Plädoyer für eine große Studien- und Prüfungsreform. Sie deckten dabei fünf Mythen über den Beschluss des Verwaltungsgerichts München auf, mit welchem ein Eilantrag eines Studienbewerbers abgewiesen wurde, dem unterstellt wurde, er hätte ein im Rahmen der Bewerbung einzureichendes Essay mithilfe Künstlicher Intelligenz erstellt (siehe die gesamte Besprechung auch in Rachut, NJW 2023, S. 1052-1057). Die Referenten führten aus, dass die arbeitsmarktgerechte und notwendigerweise angezeigte Nutzung von KI nur dann gelingen kann, wenn Modulkataloge und Modulbeschreibungen der Hochschulen überarbeitet, Prüfungsformate überdacht und Mut zur Co-Creation entdeckt werde. Hierfür müsse aber auch das Bewusstsein für die Notwendigkeit von KI und das Wissen über KI bei den Verantwortungsträgern gestärkt werden.
Wir bedanken uns bei
