Wie sollen wir künftig mit KI umgehen? Die Europäische Union unternimmt mit dem Artificial Intelligence Act erstmals den Versuch, für die Anwendung von Künstlicher Intelligenz Regeln festzusetzen. Manchen geht die Verordnung zu weit, andere bemängeln sie als zahnlos. Unbestritten ist, dass der EU AI Act konkrete Auswirkungen auf alle Unternehmen haben wird, die KI einsetzen. Nicht zuletzt bei Übersetzungen.
Richtig spannend wird es ab Sommer 2026. Rund fünf Jahre lang hat die EU an der Verordnung gearbeitet, sie trat im August 2024 in Kraft – die meisten Regelungen des AI Acts werden allerdings erst mit 2. August 2026 verbindlich. Es soll der große Wurf werden: das weltweit erste umfassende KI-Gesetz zum Einsatz Künstlicher Intelligenz.
Um Übersetzungen unter Einsatz von KI geht es dabei nur indirekt. Auf den exakt 200 Druckseiten der deutschen Version des EU AI Act wird der Begriff „Übersetzung“ im Zusammenhang mit KI-Systemen genau einmal erwähnt. Und dennoch sind die Implikationen der Verordnung auch auf diesen Bereich deutlich.
Ein risikobasierter Ansatz: Worum es im EU AI Act geht.
Die Verordnung verfolgt einen risikobasierten Ansatz: Sie klassifiziert KI-Systeme nach entsprechenden Kategorien, wobei jene mit inakzeptablem Risiko prinzipiell verboten sind. Dazu gehören etwa Anwendungen für Social Scoring, Emotionserkennung, Verhaltensbeeinflussung, massenhafte Überwachung oder ähnliche offensichtlich unethische Tools.
Für die allermeisten „alltäglichen“ Anwendungen von Artificial Intelligence interessiert sich die Verordnung nicht, sie werden überwiegend als risikolos eingestuft. Besonders relevant sind die so genannten Hochrisiko-KI-Systeme, die in Anhang III des Texts gelistet sind. Spannend ist also die Kategorie dazwischen: KI-Anwendungen, die zwar erlaubt sind und bleiben, die aber potenziell mit Risiken behaftet sind. Dieser Korridor ist es, der für Übersetzungen und Übersetzungsdienstleister relevant ist.
Müssen Unternehmen KI-Texte kennzeichnen?
Ein zentrales Anliegen der Autor:innen der Verordnung ist Transparenz. Die Offenlegungspflichten, die sich im AI Act finden, zielen in erster Linie auf KI-Deepfakes. Doch in Artikel 1, Absatz 134 nennt der AI Act auch für Übersetzungen Relevantes: Demnach sei es „angezeigt, eine ähnliche Offenlegungspflicht in Bezug auf durch KI erzeugte oder manipulierte Texte anzustreben, soweit diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren …“, gefolgt von der wesentlichen Einschränkung: „… es sei denn, die durch KI erzeugten Inhalte wurden einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für die Veröffentlichung der Inhalte.“
Was müssen Unternehmen beim Umgang mit KI-Systemen wissen? Für sie besteht keine grundlegende Verpflichtung, ausschließlich durch ein KI-System übersetzte Texte zu kennzeichnen – im Sinne der Transparenz und des Vertrauensaufbaus sollte man aber die Nutzer darüber informieren. Vor allem dann, wenn es um Bereiche mit besonders hohen Qualitätsanforderungen geht, wie etwa juristische oder medizinische Texte. Zudem ist man mit einer Kennzeichnung auf eventuell folgende Regelungen vorbereitet.
Auf der sicheren Seite sind Unternehmen jedenfalls dann, wenn menschliche Übersetzer:innen die KI-generierte Version geprüft und nötigenfalls überarbeitet haben. MTPE also, die Kombination von Machine Translation und Post-Editing.
Haftung: Wo das Risiko liegt, wenn KI-Modelle Schäden verursachen
Die Frage, in welchem Ausmaß Anbieter und Betreiber für Fehler der Künstlichen Intelligenz haften sollen, ist besonders umstritten. Klar ist in diesem Zusammenhang eigentlich nur eines: Eine KI kann man nicht verklagen. Grundsätzlich haften die Anbieter im Rahmen der ursprünglichen Zweckbestimmung des Systems. Nur Anwender, die das System zweckentfremden oder modifizieren, geraten selbst in die Haftung. In der Praxis der Übersetzungs-KI gilt das natürlich nur sehr bedingt. Alle großen Übersetzungssysteme machen in ihren AGB jedenfalls klar, dass sie für die Folgen von Fehlübersetzungen nur bei eigenem Vorsatz oder eigener Fahrlässigkeit haften.
Bei Übersetzungen werden solche Überlegungen vor allem dann schlagend, wenn es um sensible Bereiche wie juristische Verträge, Finanzberichterstattung, AGB, medizinische Texte, unter Umständen auch Gebrauchsanleitungen geht. Überall dort, wo eine Fehlübersetzung echte Schäden verursachen kann, ist daher ohnehin gang und gäbe, die Texte zumindest zur Nachbearbeitung in Profi-Hände zu geben oder sogar beglaubigte Versionen einzuholen. Unternehmen, die hier blind auf Künstliche Intelligenz vertrauen, werden sich im Fall der Fälle wohl nicht an den Herstellern der KI schadlos halten.
Unvollständiger Rechtsrahmen für KI?
Das Thema Haftung ist in der KI-Verordnung selbst weitgehend ausgespart. Die Verordnung adressiert in erster Linie Maßnahmen, die Schäden verhindern sollen – was aber passiert, wenn sie eingetreten sind, das sollte eine andere Verordnung regeln: die AI Liability Directive.
Diese Regelung adressierte nicht die Strafverfolgung, sondern hatte vor allem die Absicht, den AI Act um ein zivilrechtliches außervertragliches und verschuldensabhängiges Haftungssystem zu ergänzen. Beweiserleichterungen sollten eingeführt werden, die Durchsetzbarkeit von Forderungen erleichtert und der Opferschutz verbessert werden. Gerichte sollten zum Beispiel widerlegbar Verschulden vermuten können, wenn eine gerichtlich aufgetragene Offenlegungspflicht nicht erfüllt worden war.
Im Februar 2025 zog die Europäische Kommission den Vorschlag für die AI Liability Directive jedoch zurück. Zu diesem Zeitpunkt war ersichtlich, dass zwischen den EU-Gesetzgebern und den Mitgliedstaaten keine Einigung zu erzielen war, und so konnte der Vorschlag nicht in Kraft treten. Das Scheitern des Vorhabens rief einigen Ärger hervor und machte deutlich, wie viele unterschiedliche Interessen bei Regelungen zu Künstlicher Intelligenz unter einen Hut gebracht werden müssen. Trotz aller Enttäuschung ist damit zu rechnen, dass es zu neuen Anläufen kommen wird, Haftungsfragen zu regeln. Es lohnt sich also in jedem Fall, entsprechende Risiken zu minimieren.
Artificial Intelligence und Datenschutz
Neben Transparenz zählt auch Datenschutz zum Kern des AI Act. In gewissem Sinne ergänzt die Verordnung die Datenschutz-Grundverordnung DSGVO, die zum Teil Vorbild gewesen sein dürfte. Während die DSGVO eher die Privatsphäre adressiert, zielt der AI Act auch auf Themen rund um Sicherheit und Grundrechte, wie etwa Schutz der Umwelt oder der Rechtsstaatlichkeit.
Datenschutz ist im Zusammenhang mit maschinellen Übersetzungen ein besonders heikles Thema. Einerseits gilt es, personenbezogene Daten zu schützen, andererseits dürfen auch Firmeninterna wie Finanzkennzahlen, Patentanmeldungen und ähnlich sensible Informationen nicht versehentlich veröffentlicht werden.
Die Krux bei maschinellen Übersetzungen: Die meisten kostenfreien KI-Systeme nutzen die Eingaben der User:innen für das Teaching. Und da auch die Standorte der Server meist nicht bekannt sind, bleibt nicht wirklich überprüfbar, was mit den Informationen letztlich geschieht. Professionelle Übersetzungsdienstleister wie ACT Translations setzen für MTPE-Übersetzungen lizenzierte Versionen ein, womit sie sicherstellen, dass die Software-Anbieter die Daten nicht für das Training ihrer KI-Lösungen einsetzen. Und die Texte der Kunden landen selbstverständlich auf vertrauenswürdig gesicherten Servern in Europa.
Apropos DSGVO: Seit Inkrafttreten des AI Acts drohen bei Nichteinhaltung seiner Bestimmungen ähnlich saftige Strafen – sogar noch deutlich saftigere. Im Raum stehen Geldbußen von bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes.
Status 2025: Vieles bleibt im Fluss, vertrauenswürdige Zusammenarbeit wird wichtiger
Der AI Act ist bestimmt nicht die Lösung aller Probleme. Wenig erstaunlich angesichts des Versuchs, eine Technologie zu regulieren, die permanente Innovation erlebt – selbst der Stand von 2024 ist bereits nicht mehr aktuell. Man darf gespannt sein, wie sehr künftige Regulierungen mit dieser Entwicklung Schritt halten werden. Vorhersagen lässt sich etwa, dass die genauere Klärung von Haftungsfragen irgendwann erfolgen muss und wird.
Für Unternehmen, die Übersetzungen benötigen, ist nicht zuletzt genau das ein gewichtiges Argument, starke Partner zu suchen: Professionelle Dienstleister sind jederzeit auf dem neuesten Stand der juristischen Rahmenbedingungen und entheben ihre Kunden der Verpflichtung, sich permanent darüber Gedankenmachen zu müssen.
