University of Ulm AI Policy

Das Landeshochschulgesetz Baden – Württemberg (LHG) - auch die im Anhörungsentwurf vorgesehenen Änderungen - enthält keine Nutzungsregelungen zum Einsatz von KI-Systemen durch Studierende in Prüfungen. Auch in unserer Allgemeinen Studien- und Prüfungsordnung (Rahmenordnung) finden sich keine spezialgesetzlichen Regelungen zum Einsatz von KI bei Prüfungsleistungen.

Gegen ein allgemeines Verbot spricht, dass KI Systeme als Assistenzsysteme eingesetzt werden können (vergleichbar mit Inspiration“ durch Dritte), ohne dass sich Prüflinge mit Blick auf die bewertungsrelevanten Kriterien damit einen unzulässigen Vorteil verschaffen. Es liegt aber auch auf der Hand, dass eine allgemeine Erlaubnis der KI Systeme nicht möglich ist, sofern diese für die Übernahme der Prüfungsleistung eingesetzt werden (Zuwiderlaufen dem Sinn und Zweck von Prüfungen; Verletzung des Grundsatzes der Chancengleichheit).

Dabei entscheiden die Prüfenden selbst, welche Hilfsmittel sie erlauben oder verbieten wollen, abhängig vom jeweiligen Lernziel und geben diese Hilfsmittel den Studierenden bekannt. Die Prüflinge sollten vor Anfertigung einer schriftlichen Arbeit wissen, ob sie Hilfsmittel verwenden und wenn ja, welcher Hilfsmittel sie sich in welcher Form bedienen dürfen.

So könnten die Prüfenden z.B. Assistenzsysteme der KI erlauben, die nicht relevant für die Lösung der Aufgaben sind und Prüfungsleistungen bzw. Teile derselben durch diese Assistenzsysteme nicht ersetzen.

Bei Präsenzprüfungen ist dies auch unproblematisch, da KI Tools als Hilfsmittel zählen, deren Nutzung, wie die aller Hilfsmittel, nur mit expliziter Erlaubnis zulässig ist. Den Studierenden ist bekannt bzw. sollte bekannt sein, dass die Nutzung unzulässiger Hilfsmittel in einer Präsenzklausur als Täuschungsversuch zählt.

Dabei entscheiden die Prüfenden selbst, welche Hilfsmittel sie erlauben oder verbieten wollen, abhängig vom jeweiligen Lernziel und geben diese Hilfsmittel den Studierenden bekannt.

AI tools have become important technological helpers in scholarly works. Generative AI can facilitate writing, translating, coding, image generation, and much more.

This means you need to declare whether you used AI tools, in particular generative AI, which tools (name, version), for which task (purpose), and to what extent (scope).

1. Conducting the work: In the method section, declare the use of AI tools for research, coding, design, and development work in the same way you would for other tools and methods used. This ensures the reproducibility of the chosen methodology.

Never forget to discuss with your supervisor or advisor in advance which tools, purpose and scope you are allowed to use in your project.

Scientific and scholarly integrity principles still need to be respected when using AI tools. This includes the basic principles of protecting the intellectual property of others, avoiding plagiarism, and verification of correctness. The responsibility cannot be delegated to the tool.

AI tools have become important technological helpers in scholarly works. Generative AI can facilitate writing, translating, coding, image generation, and much more.

This means you need to declare whether you used AI tools, in particular generative AI, which tools (name, version), for which task (purpose), and to what extent (scope).

2. Reporting of the work, including writing the report: declare in the declaration of originality the AI tools used to prepare your work.

Scientific and scholarly integrity principles still need to be respected when using AI tools. This includes the basic principles of protecting the intellectual property of others, avoiding plagiarism, and verification of correctness. The responsibility cannot be delegated to the tool.

5.4 KI-generierte Inhalte sind unter Transparenzgesichtspunkten gegebenenfalls an geeigneter Stelle zu kennzeichnen. Bei KI-generierten Inhalten im Forschungsbereich sind vor dem Hintergrund des Kodex der DFG „Leitlinien zur Sicherung guter wissenschaftlicher Praxis“ und der Satzung der Universität Ulm zur Sicherung guter wissenschaftlicher Praxisdabei besondere Sorgfaltsmaßstäbe anzulegen.

1. Conducting the work: In the method section, declare the use of AI tools for research, coding, design, and development work in the same way you would for other tools and methods used. This ensures the reproducibility of the chosen methodology.

Never forget to discuss with your supervisor or advisor in advance which tools, purpose and scope you are allowed to use in your project.

5.1 Daten und Informationen aus KI-Anwendungen dürfen erst verwendet werden, wenn sie auf deren Richtigkeit und Zuverlässigkeit überprüft wurden.

5.4 KI-generierte Inhalte sind unter Transparenzgesichtspunkten gegebenenfalls an geeigneter Stelle zu kennzeichnen. Bei KI-generierten Inhalten im Forschungsbereich sind vor dem Hintergrund des Kodex der DFG „Leitlinien zur Sicherung guter wissenschaftlicher Praxis“ und der Satzung der Universität Ulm zur Sicherung guter wissenschaftlicher Praxisdabei besondere Sorgfaltsmaßstäbe anzulegen.

Scientific and scholarly integrity principles still need to be respected when using AI tools. This includes the basic principles of protecting the intellectual property of others, avoiding plagiarism, and verification of correctness. The responsibility cannot be delegated to the tool.

5.4 KI-generierte Inhalte sind unter Transparenzgesichtspunkten gegebenenfalls an geeigneter Stelle zu kennzeichnen. Bei KI-generierten Inhalten im Forschungsbereich sind vor dem Hintergrund des Kodex der DFG „Leitlinien zur Sicherung guter wissenschaftlicher Praxis“ und der Satzung der Universität Ulm zur Sicherung guter wissenschaftlicher Praxisdabei besondere Sorgfaltsmaßstäbe anzulegen.

Das bedeutet, dass Sie angeben müssen, ob Sie KI-Werkzeuge verwendet haben, insbesondere generative KI, welche Werkzeuge (Name, Version), für welche Aufgabe (Zweck) und in welchem Umfang (Umfang). Es ist wichtig, zwei Anwendungsfälle für die Offenlegung zu unterscheiden:

1. Durchführung der Arbeit: Geben Sie im Methodenteil die Verwendung von KI-Werkzeugen für Forschungs-, Codierungs-, Design- und Entwicklungsarbeiten in der gleichen Weise an, wie Sie es bei anderen verwendeten Werkzeugen und Methoden tun würden. Dadurch wird die Reproduzierbarkeit der gewählten Methodik gewährleistet.

2. Berichterstattung über die Arbeit, einschließlich des Verfassens des Berichts: Geben Sie in der Originalitätserklärung die KI-Werkzeuge an, die Sie zur Erstellung Ihres Berichts verwendet haben

Die Prüflinge müssen sich darauf vorbereiten, eine etwaige Nutzung von KI-basierten Hilfsmitteln mit entsprechenden dokumentierten Unterlagen wie von den Prüfenden gefordert (z.B. Chatprotokolle) darzulegen, sollte es Klärungsbedarf geben.

5.4 KI-generierte Inhalte sind unter Transparenzgesichtspunkten gegebenenfalls an geeigneter Stelle zu kennzeichnen.

Den Studierenden ist bekannt bzw. sollte bekannt sein, dass die Nutzung unzulässiger Hilfsmittel in einer Präsenzklausur als Täuschungsversuch zählt.

Im Zusammenhang mit studentischen Arbeiten und Prüfungen führt offensichtliches Plagiat zu einer Note 5, was das Scheitern des Moduls bedeutet. Im wissenschaftlichen Kontext wird Plagiat gemäß den Richtlinien der Universität Ulm [2] und dem "Kodex der Deutschen Forschungsgemeinschaft (DFG)" [3] verfolgt.

Die Richtlinie erstreckt sich auf sämtliche Verwendungen von Tools, Diensten, Bots oder Agents, die auf künstlicher Intelligenz beruhen (im Folgenden „KI-Anwendungen“). Der sachliche Geltungsbereich umfasst die dienstliche Nutzung von KI-Anwendungen durch alle Beschäftigten inklusive Professorinnen und Professoren.

Benutzt werden darf jede KI-Anwendung, die die Grundanforderungen der Universität Ulm erfüllt.

2.1 Eine Nutzung von Hochrisiko-KI-Systemen im Sinne der EU-KI-Verordnung ist nur nach gesonderter Rücksprache mit Dezernat I (generell) oder Dezernat II (für die Bereiche Studium, Lehre und Prüfungen) zulässig.

2.3 Es steht den Vorgesetzen für ihren Bereich frei, die Verwendung bestimmter KI-Anwendungen über die Vorgaben dieser Richtlinie hinaus zu limitieren oder vollständig zu untersagen.

5.1 Daten und Informationen aus KI-Anwendungen dürfen erst verwendet werden, wenn sie auf deren Richtigkeit und Zuverlässigkeit überprüft wurden.

5.2 Inhalte die mittels KI-Anwendungen erzeugt wurden, müssen im Hinblick auf ethische Grundlagen und offensichtliche Diskriminierungen hin überprüft werden.

5.3 KI-generierte Inhalte sind stets auf ihre Konformität mit rechtlichen Bestimmungen zu überprüfen

Benutzt werden darf jede KI-Anwendung, die die Grundanforderungen der Universität Ulm erfüllt. Die Grundanforderungen werden unter Ziffer 3.2 bis 3.4 näher beschrieben.

3.2 Es dürfen nur KI-Anwendungen eingesetzt werden, deren Anbieter die Informationspflichten nach Art. 13 DSGVO erfüllen.

3.3 Die KI-Anwendung muss die Verwendung der Eingaben zu Trainingszwecken grundsätzlich ausschließen oder eine Widerspruchsmöglichkeit (Opt-Out-Option) anbieten. Soweit verfügbar ist die Widerspruchsmöglichkeit zu nutzen.

3.4 Die KI-Anwendung muss die Möglichkeit anbieten, das Verlaufsprotokoll zu löschen oder zu deaktivieren.

3.5 Bei Registrierung und Anmeldung an einer KI-Anwendung zu dienstlichen Zwecken sind die dienstlichen Kontaktdaten zu verwenden. Das dienstliche IDM Passwort darf dabei unter keinen Umständen verwendet werden.

4.2 Die Eingabe von Verschlusssachen und Dokumenten / Informationen mit schutzbedürftigen oder vertraulichen Inhalten ist untersagt.

4.3 Die Eingabe personenbezogener Daten ist untersagt.

Ziel der Richtlinie ist es, den Beschäftigten der Universität Ulm den Einsatz eines möglichst großen Spektrums von KI-Anwendungen, bei gleichzeitiger Einhaltung von gesetzlichen Vorgaben, zu ermöglichen. Dabei steht ein verantwortungsvoller Umgang mit KI-Anwendungen im Vordergrund.

2.1 Eine Nutzung von Hochrisiko-KI-Systemen im Sinne der EU-KI-Verordnung ist nur nach gesonderter Rücksprache mit Dezernat I (generell) oder Dezernat II (für die Bereiche Studium, Lehre und Prüfungen) zulässig.

2.3 Es steht den Vorgesetzen für ihren Bereich frei, die Verwendung bestimmter KI-Anwendungen über die Vorgaben dieser Richtlinie hinaus zu limitieren oder vollständig zu untersagen.