ChatGPT: Was Start-Ups bei AI rechtlich beachten müssen!

ChatGPT Legal Insights: Was muss ich beim Einsatz von AI in Österreich rechtlich beachten?

Was Start-Ups in Österreich beim Einsatz von künstlicher Intelligenz, wie zum Beispiel ChatGPT rechtlich beachten müssen, fassen unsere Rechtsexpert:innen Elisabeth Kutner, Alexander Glaser und Martin Hanzl vom EY Law NewTech Team hier im Artikel, der auch auf brutkasten.com erschienen ist, für Sie zusammen. Ist der Einsatz von ChatGPT legal? Welche Gesetze gilt es als Start-Up zu beachten, um ChatGPT legal zu verwenden?

Hype um ChatGPT in Österreich

Der Hype um ChatGPT, ein auf künstlicher Intelligenz („KI“) oder englisch artificial intelligence („AI“) basierender Chatbot, eroberte praktisch über Nacht das Internet: Der Hype um den AI Chatbot ist auch in Österreich angekommen. Innerhalb von fünf Tagen gewann der Chatbot über 1 Millionen Nutzer:innen und erreichte damit diesen Meilenstein 60-mal schneller als damals Facebook.

Wie regelt die EU künstliche Intelligenz? Der EU AI-Act

Zeitgleich kommt auch die Regulierung im AI-Kontext auf EU-Ebene wieder in Fahrt. Am 6. Dezember 2022 meldete sich der Rat der Europäischen Union mit seinem gemeinsamen Standpunkt zum Entwurf des AI-Acts. Überdies wurde am 28. September 2022 ein Vorschlag der Europäischen Kommission für eine Richtlinie zur Anpassung der außervertraglichen zivilrechtlichen Haftung für KI („KI-Haftungsrichtlinie“) veröffentlicht. Das Thema ist damit für Unternehmen wieder brandheiß in Europa und Österreich.

Mehr Details zum EU AI Act

Was bedeutet der Einsatz von AI-Systemen für Start-Ups konkret?

Unsere EY Law Rechtsexpert:innen geben hier einen ersten Überblick mit Fokus auf die aktuelle Gesetzeslage für den Einsatz von AI, die für Start-Ups in Österreich gelten: vom Coding bis zum legalen Einsatz von ChatGPT in Österreich.

1. So vermeiden Start-Ups rechtliche Fehler beim Coding

Egal ob beim Programmieren von AI-basiertem oder ganz „normalem“ regelbasierten Code, Programmierer:innen und Startups sollten bereits frühzeitig rechtliche Besonderheiten mitdenken. Fallstricke und „typische“ Fehler reichen hier vom (unbewussten) Einsatz von Open-Source-Produkten über gemeinsames Coding ohne vertragliche Absicherung bis hin zum rechtlich nicht abgesicherten Umgang mit Input-Daten.

Wie Start-Ups und Unternehmer fünf (typische) rechtliche Fehler beim Coding vermeiden können, haben unsere EY Law Rechtsexpert:innen bereits hier in unseren Legal News-Artikel zusammengefasst.

2. Wie gut ist ChatGPT wirklich?

ChatGPT schlägt gerade über die Artificial-Intelligence-Community hinaus hohe Wellen: so attestiert etwa Bloomberg dem smarten Chatbot, der „iPhone-Moment“ für die AI-Branche zu sein.

Generative Pretrained Transformer

Die dafür verantwortliche Software läuft unter dem Namen Generative Pretrained Transformer 3 oder kurz „GPT-3“. Dabei handelt es sich um ein von OpenAI entwickeltes Sprachverarbeitungsmodell. GPT-Modelle sind sogenannte „pretrained models“. Einfach ausgedrückt werden diese mithilfe einer großen Menge von vorgegebenen Daten trainiert, bevor sie für spezifische Aufgaben eingesetzt werden. ChatGPT ist wirklich gut, hat allerdings auch seine Tücken.

3. Sind Chatbots und AI die universalen Problemlöser der Zukunft?

Chatbots wie ChatGPT sind derzeit wohl die greifbarsten Anwendungen, allerdings haben AI-Systeme insgesamt noch viel größeres Potential, die Welt zu verändern. AI soll logisch und intelligent agieren und kann im Gegensatz zum Menschen auf eine größere Wissens- und Informationsbasis zurückgreifen.

ChatGPT ist mit umfassendem Allgemeinwissen gefüttert und kann sich auch mit rechtlichen und medizinischen Fachfragen auseinandersetzen. „Wie gründe ich eine GmbH?“ oder „Wie kann ich Kopfschmerzen lindern?“ – solche Fragen beantwortet ChatGPT gerne. Wer auf eine medizinische Diagnose oder eine konkrete rechtliche Einschätzung hofft, wird aber enttäuscht.

Bei derartigen Erkundigungen verweist ChatGPT auf Expert:innen wie beispielsweise Ärzt:innen und Anwält:innen. Was passiert, wenn sich ChatGPT doch zu einem konkreten medizinischen Ratschlag hinreißen lässt, sich abwertend gegenüber einer Personengruppe äußert oder illegale Handlungen begünstigen will? Informieren Sie sich auch im EY Tech Transformation Podcast mit EY Law Rechtsanwalt Martin Hanzl: Künstliche Intelligenz: Mensch oder Maschine?

EY Law Tipp zu ChatGPT
AI-Systeme werden immer umfassender und besser einsetzbar, ihre große Wissensbasis garantiert aber keine Richtigkeit! Bei kritischen Themen solltet ihr euch daher nie ungeprüft auf ein AI-System verlassen. Falls ihr solche AI-Technolgie bei euch im Unternehmen oder in eurem Produkt einsetzt, solltet ihr bei der Interaktion mit dem AI-System – für Verbraucher:innen gut sichtbar – entsprechende Warnhinweise angeben.

4. Was muss ich als Startup rechtlich beachten, wenn ich AI wie ChatGPT verwende?

Start-Ups sollten hier immer überlegen: Der Einsatz von AI-basierten Systemen sollte wohlüberlegt sein und jedenfalls im Einzelfall vor Inbetriebnahme nicht nur technisch, sondern auch rechtlich geprüft werden.

EY Law Tipp
Führt vor dem Einsatz von AI-Systemen oder anderer komplexer Software eine rechtliche Prüfung in-house oder extern durch und dokumentiert diese Analyse schriftlich.

Wie können Unternehmer:innen in Österreich ChatGPT legal einsetzen?

Abhängig vom Einsatzgebiet des jeweiligen AI-basierten Systems können sich etliche rechtliche Fragen ergeben: angefangen von Datenschutz, Arbeitsrecht und Intellectual-Property-Fragen bis hin zum Verbraucher- und Haftungsrecht.

Chatbots werden immer menschlicher und so für ihr Gegenüber schwerer zu erkennen. Wichtig ist es beim Einsatz von AI-Systemen auf Transparenz zu setzen und klarzustellen, dass Nutzer:innen nicht mit Menschen, sondern mit einem Chatbot agieren.

Andernfalls könnte der Einsatz von AI-Systemen eine irreführende Geschäftspraktik im Sinne des § 2 UWG (Bundesgesetz gegen unlauteren Wettbewerb) darstellen. Daraus können Schadenersatz-, Unterlassungs- und Beseitigungsansprüche resultieren. Insoweit AI-basierte Systeme personenbezogene Daten verarbeiten (und ggf auch speichern bzw zum Training verwenden), sind die strengen Regelungen der Datenschutzgrundverordnung einzuhalten.

Es sind dabei insbesondere eine entsprechende Datenschutzerklärung zu entwerfen, Löschkonzepte zu entwickeln und ggf auch Verarbeitungsverzeichnisse zu erstellen. Solltet ihr als Start-Up erwägen, AI-Tools für Recruiting oder in anderen arbeitsrechtlichen Belangen (z.B. bei der Evaluierung von Mitarbeiter:innen) einzusetzen, ist das Arbeitsrecht zu beachten. Verbraucherrecht könnte relevant werden, wenn ihr AI-Systeme in B2C-Settings verwendet und diese für Marketingstrategien, im Chat mit Verbraucher:innen einsetzt.

ChatGPT in Österreich: Das sollten StartUps unbedingt prüfen!

Neben den oben genannten fünf typischen Fehlern im Programmier-Kontext, die Start-ups vermeiden sollten, sollten Unternehmer:innen in Österreich darüber hinaus prüfen, wie selbst entwickelte AI-Systeme bestmöglich auch rechtlich geschützt werden können. Schließlich stellt selbst entwickelte Software häufig eines der Kern-Assets des Unternehmens dar.

Wie aber bereits festgestellt, können – abhängig von Ziel und konkretem Einsatz von AI-Systemen – etliche weitere Regelungen anwendbar sein. Start-Ups und Unternehmer:innen sollten daher jedenfalls vor dem ersten Einsatz von AI-Systemen eine rechtliche Evaluierung durchführen.

Das erste Aufsetzen eines solchen rechtlichen Rahmens mag auf den ersten Blick zwar mühsam erscheinen, ist aber um ein Vielfaches leichter als das Nachbessern zu einem späteren Zeitpunkt (etwa wenn Investor:innen in einer Finanzierungsrunde einsteigen und in einer Due Diligence ein „Red Flag“ hervorkommt).

Zusammenfassung für den Einsatz von ChatGPT in Österreich

Bei der folgenden kurzen Zusammenfassung des Artikels hat ChatGPT unsere EY Law Expert:innen unterstützt. Für eine Wartezeit von nicht einmal 10 Sekunden kann sich das Ergebnis durchaus sehen lassen. Wer auf aber auf Nummer sicher gehen und nichts verpassen will, sollte Texte aber trotzdem noch selbst lesen.

„Startups sollten beim Einsatz von AI-basierten Anwendungen wie ChatGPT wohlüberlegt vorgehen und diese sowohl technisch als auch rechtlich prüfen. Es gibt eine Vielzahl von rechtlichen Fragen, die sich aufgrund des Einsatzbereichs der AI-Systeme stellen, wie Datenschutz, Arbeitsrecht und IP-Fragen, Verbraucher- und Haftungsrecht.

Chatbots sollten klar gekennzeichnet werden, um Nutzer darüber aufzuklären, dass sie mit einem Chatbot und nicht mit einem Menschen kommunizieren. AI-Systeme, die personenbezogene Daten verarbeiten, müssen den Regelungen der Datenschutzgrundverordnung entsprechen. Bei der Verwendung von AI-Tools für Recruiting oder in anderen arbeitsrechtlichen Bereichen muss das Arbeitsrecht beachtet werden.

Verbraucherrecht könnte relevant werden, wenn AI-Systeme in B2C-Umgebungen für Marketingstrategien oder Chats mit Verbrauchern eingesetzt werden. Selbst entwickelte AI-Systeme sollten bestmöglich geschützt werden. Abhängig vom Ziel und konkretem Einsatz von AI-Systemen könnten jedoch auch andere Regelungen anwendbar sein, daher sollten diese vor dem ersten Einsatz geprüft werden.„

AI-Act: Tipps für Start-Ups zur Künstlichen Intelligenz

Dieser Artikel vom EY Law New Technology Team ist auch auf Brutkasten.com erschienen. Im nächsten Teil dieser Artikel-Reihe rücken der AI Act und die KI-Haftungsrichtlinie in den Mittelpunkt. Unsere Rechtsexpert:innen beleuchten, was sich durch diese vorgeschlagen EU-Gesetze für Start-Ups in Österreich ändern könnte, wie der europäische Gesetzgeber das AI-Thema anpackt und was ihr als Startups bereits jetzt beachten solltet.

Kontaktieren Sie unser NewTech Team, wenn Sie ChatGPT legal in Ihrem Unternehmen einsetzen wollen: