Digitale Welt und KI: Wenn künstliche Intelligenz sichtbar werden muss

Künstliche Intelligenz ist längst kein Zukunftsthema mehr. Sie schreibt Texte, erstellt Bilder, übersetzt Dokumente, beantwortet Kundenanfragen, analysiert Daten und unterstützt Unternehmen bei immer mehr täglichen Aufgaben. Die eigentliche Veränderung besteht deshalb inzwischen weniger darin, ob KI eingesetzt wird, sondern darin, wie selbstverständlich sie Bestandteil unserer digitalen Welt geworden ist.

Genau an diesem Punkt gewinnt eine neue Frage an Bedeutung: Müssen wir erkennen können, wann wir es mit künstlicher Intelligenz zu tun haben?

Seit dem 2. August 2026 ist diese Frage in der Europäischen Union nicht mehr nur eine gesellschaftliche oder ethische Diskussion. Wesentliche Bestimmungen der europäischen KI-Verordnung (Verordnung (EU) 2024/1689, „AI Act“) sind nun anwendbar, darunter die Transparenzpflichten des Art. 50. Gleichzeitig setzt das KI-Büro der Kommission seit dem 2. August 2026 die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck durch; in Deutschland ist seit dem 29. Juli 2026 nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) die Bundesnetzagentur Marktüberwachungsbehörde.

Wenn der Chatpartner kein Mensch ist

Ein besonders einfaches Beispiel sind Chatbots. Unternehmen setzen sie zunehmend im Kundenservice, auf Internetseiten oder in Supportsystemen ein.

Seit dem 2. August 2026 müssen KI-Systeme, die für eine direkte Interaktion mit Menschen vorgesehen sind, so gestaltet sein, dass Nutzer darüber informiert werden, dass sie mit einem KI-System kommunizieren. Eine Ausnahme besteht insbesondere dann, wenn dies aufgrund der konkreten Situation ohnehin offensichtlich ist.

Das klingt zunächst nach einer Formalität, berührt aber eine grundsätzliche Entwicklung der digitalen Kommunikation. Moderne KI-Systeme können inzwischen so formulieren und reagieren, dass für einen Nutzer nicht immer ohne Weiteres erkennbar ist, ob am anderen Ende ein Mensch oder eine Maschine antwortet.

Transparenz wird damit zu einem Bestandteil digitaler Vertrauenswürdigkeit.

Deepfakes werden zu einer besonderen Herausforderung

Noch deutlicher wird das Problem bei Bildern, Videos und Audiodateien.

Generative KI kann heute Personen täuschend echt sprechen lassen, Bilder realistisch verändern oder Ereignisse darstellen, die überhaupt nicht stattgefunden haben. Technisch beeindruckende Möglichkeiten können damit gleichzeitig ein erhebliches Risiko darstellen.

Deepfakes können beispielsweise zur Manipulation öffentlicher Diskussionen, für Betrugsversuche oder zur Vortäuschung von Aussagen realer Personen eingesetzt werden. Je leistungsfähiger die Systeme werden, desto schwieriger wird es für Menschen, allein anhand eines Bildes oder Videos zwischen authentischem und künstlich erzeugtem Material zu unterscheiden.

Der AI Act setzt deshalb auf Transparenz. Bestimmte künstlich erzeugte oder manipulierte Inhalte müssen erkennbar gemacht werden. Anbieter generativer KI-Systeme haben unter den Voraussetzungen des Art. 50 zudem dafür zu sorgen, dass entsprechende Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert erkannt werden können. Für Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, gilt diese Markierungspflicht nach Art. 50 Abs. 2 ab dem 2. Dezember 2026. Für Deepfakes bestehen darüber hinaus Offenlegungspflichten beim Einsatz solcher Inhalte.

Damit entsteht neben dem für Menschen sichtbaren Hinweis zunehmend eine zweite Ebene: digitale Herkunftsinformationen für Maschinen und Plattformen.

Muss jetzt jeder KI-Text gekennzeichnet werden

Hier lohnt sich eine Differenzierung.

Die verbreitete Aussage, jeder Text müsse gekennzeichnet werden, sobald ChatGPT oder ein anderes KI-System daran beteiligt war, ist so pauschal nicht richtig.

Eine besondere Offenlegungspflicht sieht der AI Act unter anderem für KI-generierte oder manipulierte Texte vor, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dabei bestehen wiederum Ausnahmen, beispielsweise wenn eine menschliche Überprüfung oder redaktionelle Kontrolle erfolgt und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

Für Unternehmen bedeutet dies: Nicht jede Rechtschreibkorrektur, Zusammenfassung, interne E-Mail oder mit KI vorbereitete Produktbeschreibung benötigt automatisch einen sichtbaren Hinweis „erstellt mit KI“.

Entscheidend sind Einsatzgebiet, Inhalt, Rolle des Unternehmens und die konkrete Art der KI-Nutzung. Die Einzelheiten der Kennzeichnungspflichten erläutern wir in unserem Beitrag zur Kennzeichnung von KI-Inhalten nach Art. 50 KI-VO.

Die größere Herausforderung liegt im Unternehmen selbst

Die Diskussion über Kennzeichnungen verdeckt allerdings ein wesentlich größeres Thema.

Unternehmen benötigen zunehmend Regeln dafür, wie Mitarbeiter künstliche Intelligenz überhaupt einsetzen dürfen.

Dazu gehören Fragen wie:

Welche Informationen dürfen in ein öffentlich verfügbares KI-System eingegeben werden? Wie wird verhindert, dass personenbezogene Daten, Geschäftsgeheimnisse oder vertrauliche Kundeninformationen unkontrolliert verarbeitet werden? Wer kontrolliert KI-generierte Ergebnisse? Wie werden Fehler oder sogenannte Halluzinationen erkannt? Und wer trägt letztlich die Verantwortung für eine Entscheidung, bei deren Vorbereitung KI eingesetzt wurde?

Der AI Act greift auch diesen organisatorischen Aspekt auf. Bereits seit dem 2. Februar 2025 gilt Art. 4 zur KI-Kompetenz. In der seit dem 27. Juli 2026 geltenden Fassung (Verordnung (EU) 2026/1744) müssen Anbieter und Betreiber Maßnahmen treffen, um die KI-Kompetenz der mit Betrieb und Nutzung befassten Personen zu fördern; ein bestimmtes individuelles Kompetenzniveau müssen sie nicht garantieren.

Damit wird deutlich: Der professionelle Einsatz künstlicher Intelligenz lässt sich nicht allein durch den Kauf einer Software oder die Freigabe eines Chatbots organisieren.

KI-Kompetenz wird zur Schlüsselqualifikation

Die entscheidende Fähigkeit der nächsten Jahre könnte deshalb nicht darin bestehen, möglichst viele KI-Werkzeuge bedienen zu können.

Wichtiger wird es sein, ihre Ergebnisse beurteilen zu können.

Wer mit KI arbeitet, muss verstehen, dass sprachlich überzeugende Antworten nicht automatisch richtige Antworten sind. Quellen müssen überprüft, Berechnungen nachvollzogen und rechtliche oder fachliche Aussagen kontrolliert werden.

Gerade darin liegt ein paradoxer Effekt: Je leistungsfähiger künstliche Intelligenz wird, desto wichtiger wird menschliche Fachkompetenz.

Denn wer ein Ergebnis fachlich nicht beurteilen kann, erkennt auch nicht zuverlässig, wann eine KI einen Fehler macht.

Von der Digitalisierung zur intelligenten Digitalisierung

Über Jahre bedeutete Digitalisierung vor allem, analoge Prozesse elektronisch abzubilden: Akten wurden digital, Rechnungen elektronisch und Besprechungen online.

Künstliche Intelligenz verändert diese Entwicklung grundlegend.

Digitale Systeme speichern Informationen nicht mehr nur, sondern analysieren, formulieren, bewerten und erzeugen selbst Inhalte. Die Grenze zwischen Werkzeug und handelndem Assistenzsystem wird dadurch zunehmend unscharf.

Die eigentliche Herausforderung der digitalen Welt besteht deshalb künftig nicht darin, möglichst viel KI einzusetzen.

Sie besteht darin, KI dort einzusetzen, wo sie einen messbaren Nutzen schafft, gleichzeitig aber menschliche Kontrolle, Transparenz, Datenschutz, Informationssicherheit und Verantwortlichkeit sicherzustellen.

Der AI Act kann dabei als regulatorischer Rahmen verstanden werden. Vertrauen in künstliche Intelligenz entsteht jedoch nicht allein durch gesetzliche Vorschriften.

Es entsteht vor allem dann, wenn Menschen wissen, wann sie mit KI zu tun haben, wie KI eingesetzt wird und wer am Ende die Verantwortung trägt.

Genau diese Frage dürfte die digitale Welt in den kommenden Jahren stärker beschäftigen als die Frage, welches KI-Modell gerade das leistungsfähigste ist.