Einfluss des AI Acts auf Innovation und Digitalisierung

Das KI-Gesetz (AI Act) wird ab etwa Mitte 2024 die Wirtschaft prägen und sowohl potenziell positive als auch negative Auswirkungen auf die digitale Innovationsfähigkeit deutscher Unternehmen im europäischen Vergleich haben. Die Auswirkungen sind vielschichtig und hängen von verschiedenen Faktoren ab, unter anderem von der Branche, der Unternehmensgröße und der Art der eingesetzten oder entwickelten KI-Systeme. Was kommt da auf uns zu?
IHK24 Artikel Bannerbild 2023 (28)
Zum besseren Verständnis des noch in englischer Sprache vorliegenden Gesetzesentwurfs werden im Folgenden einige Details und Zusammenfassungen dargestellt. Ziel dieses Beitrages ist es, Klarheit zu schaffen, inwieweit Unternehmen vom AI Act betroffen sind und was vorbereitet werden muss.

Management Summary

Der AI Act ist das weltweit erste Gesetz zum Umgang und Einsatz künstlicher Intelligenz und tritt mit seiner Veröffentlichung in Kraft. Es handelt sich um eine Verordnung und nicht um eine Richtlinie. Es ist davon auszugehen, dass der AI Act Mitte 2024 als Gesetz im EU-Recht veröffentlicht wird und damit auch ohne deutsche Übersetzung in Deutschland gilt. Damit gilt das Gesetz unmittelbar für alle Mitgliedstaaten ohne nationale Übergangsfristen.
Ziel ist es, Grundrechte, ethische Grundsätze und die Sicherheit bzw. vor KI-Risiken rechtlich zu schützen und bei Nichteinhaltung zu sanktionieren.
Die tatsächlichen Auswirkungen des AI Act auf die Innovationsfähigkeit deutscher Unternehmen im europäischen Vergleich werden davon abhängen, wie effektiv Unternehmen die neuen Regelungen umsetzen und die sich bietenden Chancen nutzen und die ebenfalls anstehenden Probleme bewältigen.
Sicher ist, dass die Verpflichtungen zur Einhaltung des AI Act die Technologieoffenheit in deutschen Unternehmen durchaus behindern statt fördern werden. Wer hier sowohl das Gesetz als auch die damit verbundenen Möglichkeiten versteht, kann vom AI Act profitieren.
Kritik ist jedoch mehr als angebracht. Gerade bei mangelhaften Gesetzesvorhaben aus der jüngeren Vergangenheit (bspw. das Heizungsgesetz) ist eine Erschöpfung und ein Unmut über politische Regulierungen nachvollziehbar.
Da das Gesetz aktuell weder in deutscher Sprache vorliegt, noch entsprechende Behörden zur Durchsetzung bei Verstößen eingerichtet sind, bietet sich eine erste Einführung und Übersicht über das neue KI-Gesetz an. (Gerüchten zufolge soll in Deutschland die Bundesnetzagentur eingesetzt werden). Bei den folgenden Unterpunkten ist es wichtig, nach Lösungen zu suchen, Vorteile und Chancen hervorzuheben und bei Bedarf die Möglichkeit zu nutzen, Kritik zu äußern. Hierfür sind die Industrie- und Handelskammern bzw. die DIHK Ansprechpartner Nr. 1 für die Mitgliedsunternehmen.

AI Act in aller Kürze

Das Gesetz umfasst etwas mehr als 300 Seiten. Nachfolgend finden Sie eine ausgewählte Zusammenfassung mit den wichtigsten Auswirkungen auf die Unternehmenslandschaft.

Die Ziele des AI Acts

Der europäische AI Act soll die Entwicklung und den Einsatz von künstlicher Intelligenz (KI) in der EU regeln, um Sicherheit, Transparenz und die Einhaltung ethischer Standards zu gewährleisten. Es soll ein Gleichgewicht zwischen der Förderung von Innovation und dem Schutz der Grundrechte der Bürger hergestellt werden. Der AI Act verfolgt einen risikobasierten Ansatz, um sicherzustellen, dass höhere Risiken einer strengeren Regulierung unterliegen.

Auswirkungen der Verordnung auf Unternehmen

Der AI Act betrifft Anbieter, Importeure, Händler und Nutzer von KI-Systemen in der EU. Unternehmen, die KI-Systeme entwickeln, in Verkehr bringen oder nutzen, müssen die Anforderungen des AI Act erfüllen. Dabei handelt es sich um ein breites Spektrum von Unternehmen, von Start-ups bis hin zu großen Konzernen, die in verschiedenen Sektoren tätig sind, darunter Gesundheit, Finanzen, Bildung usw.

Die 4 Risikoklassen und Beispiele

  • Inakzeptables Risiko: KI-Systeme, die grundlegende Rechte verletzen oder die Gesellschaft schädigen könnten, wie z.B. Social Scoring-Systeme.
  • Hohes Risiko: KI-Systeme in kritischen Bereichen wie Gesundheitswesen oder Verkehr, die strenge Anforderungen erfüllen müssen, z.B. Diagnosesysteme in der Medizin.
  • Begrenztes Risiko: KI-Systeme, die bestimmte Transparenzanforderungen erfüllen müssen, wie Chatbots (ChatGPT und Co.).
  • Minimales oder kein Risiko: KI-Systeme, die frei verwendet werden können, wie AI in Videospielen
Um Strafen und Sanktionen zu vermeiden, ist es wichtig, die Pflichten zu kennen.

Pflichten in Verbindung mit den 4 Risikoklassen

  • Inakzeptables Risiko: Verbot der Nutzung.
  • Hohes Risiko: Umfangreiche Dokumentations-, Transparenz- und Überwachungspflichten, einschließlich Risikobewertung und -management.
  • Begrenztes Risiko: Transparenzpflichten, um Nutzer über den Einsatz von KI zu informieren.
  • Minimales oder kein Risiko: Keine spezifischen Anforderungen, aber allgemeine Compliance mit dem AI Act

Erforderliche Abteilungen und Personen

Um dem AI Act gerecht zu werden, benötigen Unternehmen wahrscheinlich spezialisierte Teams. Auch hier besteht noch Unklarheit darüber, wer dies in Person und mit welchem Wissensstand sein wird. Folgende Bereiche könnten in Frage kommen:
  • Rechtsabteilungen, um die Compliance zu überwachen.
  • Technik- und Entwicklerteams, um sicherzustellen, dass KI-Systeme den Anforderungen entsprechen.
  • Risikomanagement- und Compliance-Teams, um Risikobewertungen durchzuführen.
  • Datenschutzbeauftragte, insbesondere bei KI-Systemen, die personenbezogene Daten verarbeiten
Bereiten Sie sich darauf vor und fragen Sie sich, wer bei Ihnen für diese Rolle in Frage kommt. Auch hier wird es sicher bald Klarheit geben.

Strafmaße bei Nichteinhaltung

Bei Verstößen gegen den AI Act drohen den Unternehmen empfindliche Strafen, die je nach Schwere des Verstoßes bis zu 35 Millionen Euro oder bis zu 7% des weltweiten Jahresumsatzes betragen können.
Hier sollte jedoch keine Panik geschürt und die Innovationsbereitschaft durch Unwissenheit gehemmt werden. Im Zweifelsfall sollte juristischer Rat eingeholt werden.

Auswirkungen auf die Innovationsfähigkeit deutscher Unternehmen

Während der AI Act darauf abzielt, Vertrauen in KI-Technologien zu schaffen und deren sichere Nutzung zu fördern, gibt es auch Befürchtungen, dass eine strenge Regulierung die Innovationsfähigkeit einschränken könnte. Auf der anderen Seite kann ein klarer Rechtsrahmen auch einen Wettbewerbsvorteil darstellen, indem er das Vertrauen von Verbrauchern und Geschäftspartnern stärkt und europäische Unternehmen als Vorreiter bei der ethischen Entwicklung von KI positioniert.
Es stellt sich also die Frage, ob der AI Act Innovation und Technologieoffenheit fördert oder hemmt. Sicher ist: Es kommt darauf an, wie mit dem Gesetz umgegangen wird und wie schnell sich Unternehmen auf die neue Verordnungen einstellen.

Betroffene Unternehmen

  • Anbieter (auch aus Drittländern), die KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen.
  • Nutzer von KI-Systemen, die sich innerhalb der EU befinden.
  • Anbieter und Nutzer von KI-Systemen, die in einem Drittland niedergelassen oder ansässig sind, wenn das vom System hervorgebrachte Ergebnis innerhalb der EU verwendet wird
Kurzum: alle Unternehmen.

Auswirkungen auf Innovationsfähigkeiten

Die folgenden Ausführungen sind keine Zukunftsprognosen, kein Blick in die Glaskugel und erheben keinen Anspruch auf Vollständigkeit. Bei der kritischen Auseinandersetzung und den Recherchen zu diesem Artikel haben sich jedoch einige Punkte herauskristallisiert.
Das KI-Gesetz hat potenziell gemischte Auswirkungen auf die Innovationsfähigkeit deutscher Unternehmen. Einerseits wird befürchtet, dass die strengen Regelungen, insbesondere für generative KI-Modelle, europäische Unternehmen unverhältnismäßig belasten und Innovationen behindern könnten. Diese Sorge wird unter anderem vom Branchenverband Bitkom geteilt, der eine rechtssichere und innovationsfreundliche Umsetzung des AI Act fordert, um die Chancen von Künstlicher Intelligenz für Wirtschaft, Gesellschaft und Verwaltung in den Vordergrund zu stellen. Diese Sorgen teilen sich die DIHK und alle IHKen in Deutschland.
Zum anderen enthält der AI Act Regelungen, die einen einheitlichen Markt fördern und die Innovationskraft der Unternehmen stärken sollen. Besonders hervorzuheben sind die sogenannten „regulatorischen Sandkästen“, in denen Unternehmen innovative Ansätze, Produkte und Dienstleistungen unter realen Bedingungen und unter regulatorischer Aufsicht testen können. Diese “Sandkästen” ermöglichen es, KI-Entwicklungen vor der Markteinführung an den Anforderungen des AI Act auszurichten, was die Innovationskraft der Unternehmen stärken könnte.
Darüber hinaus fördert der AI Act die Transparenz von KI-Systemen, was mittelständischen Unternehmen helfen kann, das Vertrauen ihrer Kundinnen und Kunden zu gewinnen. Insbesondere bei als risikoarm eingestuften KI-Systemen können KMU von geringeren regulatorischen Anforderungen profitieren.
Insgesamt lässt sich festhalten, dass das KI-Gesetz sowohl Herausforderungen als auch Chancen für die Innovationsfähigkeit deutscher Unternehmen mit sich bringt. Die tatsächlichen Auswirkungen werden maßgeblich davon abhängen, wie die Regelung in Deutschland und anderen EU-Mitgliedstaaten umgesetzt wird und inwieweit es gelingt, eine Balance zwischen Schutzbedürfnissen und Innovationsförderung zu finden.

Deutsche Innovationsfähigkeiten im Vergleich zur EU

Grundsätzlich ist es in einem vielfältigen und multikulturell geprägten Land wie Deutschland schwierig, eine Abgrenzung zu anderen EU-Ländern vorzunehmen. Dennoch sind die regionalen Voraussetzungen so unterschiedlich, weshalb eine Differenzierung mit negativen und positiven Auswirkungen aufgenommen wurde.
An dieser Stelle sei betont, dass es sich um nur geringe mögliche Risiken und Chancen und erste Denkanstöße zu deren Bewältigung handelt. Tatsächlich ist das Feld viel größer und individueller. Wir empfehlen hier einen 1:1 Austausch um über Ihre Herausforderungen zu sprechen, als diese in einem Fachbeitrag pauschal zu erweitert. Wenn Sie weitere Punkte erkennen oder sogar direkt kennen, können Sie diese gerne an die auf dieser Website genannten Ansprechpartner weiterleiten. Wir nehmen jeden Hinweis ernst und gehen der Sache im Interesse der Wirtschaft nach.

Negative Auswirkungen:

  • Regulatorische Hürden: Der AI Act führt umfangreiche regulatorische Anforderungen ein, insbesondere für KI-Systeme, die als hochriskant eingestuft werden. Diese Anforderungen könnten für kleine und mittlere Unternehmen (KMU) besonders belastend sein, da sie möglicherweise nicht über die Ressourcen verfügen, um diese Anforderungen zu erfüllen. Dies könnte das Innovationstempo verlangsamen und deutsche KMU gegenüber größeren Unternehmen oder Unternehmen in Ländern mit weniger strengen Vorschriften benachteiligen.
  • Unsicherheit und Kosten: Unspezifische Anforderungen und potenziell hohe Strafen bei Nichteinhaltung können zu Unsicherheiten führen, die Unternehmen dazu veranlassen könnten, risikoaverse Entscheidungen zu treffen. Dies könnte die Entwicklung und Einführung neuer KI-Anwendungen hemmen, insbesondere in Bereichen, die als risikoreich gelten.

Positive Auswirkungen:

  • Förderung von Vertrauen und Sicherheit: Mit dem KI-Gesetz soll ein höheres Maß an Vertrauen und Sicherheit in KI-Systeme geschaffen werden, was die Akzeptanz von KI-Lösungen bei Verbrauchern und Geschäftspartnern erhöhen könnte. Dies könnte deutschen Unternehmen helfen, sich als führende Anbieter vertrauenswürdiger und sicherer KI-Technologie zu positionieren.
  • Innovationsanreize durch regulatorische Sandkästen: Das KI-Gesetz sieht die Einrichtung von regulatorischen Sandkästen vor, die es Unternehmen ermöglichen, neue Technologien unter realen Bedingungen zu testen, ohne sofort alle regulatorischen Anforderungen erfüllen zu müssen. Dies könnte insbesondere deutschen Unternehmen helfen, die an der Spitze der technologischen Entwicklung stehen und schnell auf Marktveränderungen reagieren wollen.
  • Harmonisierung der Regulierung: Durch die Schaffung eines einheitlichen Rechtsrahmens innerhalb der EU könnte der AI Act dazu beitragen, die Wettbewerbsbedingungen für alle europäischen Unternehmen zu vereinheitlichen. Deutschen Unternehmen, die in mehreren EU-Ländern tätig sind, könnte dies helfen, da sie sich nicht mehr mit einer Vielzahl unterschiedlicher nationaler Regelungen auseinandersetzen müssten.

Fazit und Handlungsempfehlung

Um den Nutzen für Unternehmen im Kontext des EU AI Act zu maximieren, ohne die Innovationsfähigkeit zu beeinträchtigen, sollten Unternehmen einen proaktiven und strategischen Ansatz wählen. Die Einhaltung des AI Act sollte nicht als reine Compliance-Aufgabe verstanden werden, sondern als Chance, das Vertrauen von Kunden, Partnern und Regulierungsbehörden zu stärken und sich als Vorreiter in der Entwicklung und Anwendung ethischer und sicherer KI-Technologien zu positionieren.
Vereinfacht ausgedrückt: Chancen und Risiken des AI Act aktiv mit allen internen und externen Stakeholdern proaktiv diskutieren.
Unternehmen wird empfohlen, frühzeitig in das Verständnis und die Umsetzung der Anforderungen des KI-Gesetzes zu investieren. Dazu gehören die Entwicklung einer umfassenden Compliance-Strategie, die Schulung von Mitarbeitern und die Etablierung multidisziplinärer Teams, die sowohl technische als auch juristische Expertise vereinen. Die Nutzung regulatorischer Sandkästen und die Förderung von Transparenz können zusätzlich dazu beitragen, Innovationen voranzutreiben und gleichzeitig die rechtlichen Anforderungen zu erfüllen.
Durch die kontinuierliche Überwachung und Anpassung ihrer KI-Systeme und Compliance-Maßnahmen können Unternehmen sicherstellen, dass sie flexibel auf Veränderungen der Technologie und des regulatorischen Umfelds reagieren können. Auf diese Weise können sie die Vorteile des KI-Einsatzes voll ausschöpfen, gleichzeitig Risiken minimieren und das Vertrauen ihrer Stakeholder stärken. (In diesem Kontext planen wir gerade eine Erweiterung der IHK Business Capability Map um den KI-Einsatz.) Dies gilt natürlich auch für die Planung der Beschaffung und des Einsatzes neuer KI-Lösungen.
Letztlich sollten Unternehmen den AI Act als integralen Bestandteil ihrer Innovationsstrategie betrachten. Durch die Einhaltung der Vorschriften und die Förderung ethischer KI-Praktiken können sie nicht nur regulatorische Sanktionen vermeiden, sondern sich auch einen Wettbewerbsvorteil verschaffen und zur Gestaltung einer verantwortungsvollen und nachhaltigen KI-Zukunft beitragen.
Wenn aber das Gesetz Innovationen behindert oder gar verhindert, dann wenden Sie sich z.B. an Ihre regionale Industrie- und Handelskammer, die verpflichtet ist, genau solche Widrigkeiten der Regional-, Landes- und Bundespolitik aufzuzeigen.

Kurze Checkliste

Um das KI-Gesetz effektiv umzusetzen und gleichzeitig die Innovationsfähigkeit zu erhalten, sollten deutsche Unternehmen eine umfassende und proaktive Strategie verfolgen. Im Folgenden werden zur Orientierung die wichtigsten Punkte zusammengefasst und mit einfachen Handlungsempfehlungen ergänzt:
  1. Frühzeitige Anpassung und Compliance-Strategie: Unternehmen sollten sich frühzeitig mit den Anforderungen des AI Act vertraut machen und eine umfassende Compliance-Strategie entwickeln, die alle KI-Systeme im Unternehmen umfasst.
  2. Investition in Wissen und Schulung: Die Schulung von Mitarbeitern und Führungskräften in Bezug auf die Anforderungen des AI Act ist entscheidend, um eine Kultur der Verantwortung und des Vertrauens zu fördern. Bereits dieser Fachbeitrag könnte den Mitarbeitenden zur Verfügung gestellt werden, auch wenn dies noch lange nicht ausreicht.
  3. Etablierung eines multidisziplinären Teams: Ein Team aus Experten verschiedener Fachrichtungen kann helfen, eine ausgewogene Perspektive auf die KI-Entwicklung zu gewinnen und Compliance sicherzustellen.
  4. Nutzung von regulatorischen Sandkästen: Diese ermöglichen es Unternehmen, neue Technologien unter realen Bedingungen zu testen, ohne sofort allen regulativen Anforderungen gerecht werden zu müssen.
  5. Förderung von Transparenz und Vertrauen: Transparenz in eingesetzten KI-Systemen stärkt das Vertrauen der Stakeholder und kann die Akzeptanz von KI-Lösungen erhöhen. Oder so formuliert: Was passiert in der Black Box?
  6. Kontinuierliche Überwachung und Anpassung: Regelmäßige Überprüfungen und Anpassungen der KI-Systeme und Compliance-Maßnahmen helfen, flexibel auf Veränderungen zu reagieren.
  7. Stärkung der Datenverwaltung: Eine robuste Datenverwaltung und -sicherheit sind entscheidend, um die Integrität und Sicherheit der KI-Systeme zu gewährleisten. Unternehmen sollten in Technologien und Praktiken investieren, die die Datensicherheit stärken und gleichzeitig die Compliance mit dem AI Act unterstützen. Hier gibt es bspw. Fördermöglichkeiten durch den Bund und Länder.
  8. Engagement in politischen und regulatorischen Prozessen: Unternehmen sollten aktiv an Diskussionen und Entwicklungen rund um den AI Act teilnehmen. Durch das Engagement in politischen und regulatorischen Prozessen können sie Einfluss auf die Gestaltung der KI-Regulierung nehmen und sicherstellen, dass ihre Interessen und Bedenken berücksichtigt werden. IHKen bieten dazu Ausschüsse und die Vollversammlung als höchstes IHK-Organ an.
Förderung von Partnerschaften und Kollaborationen: Die Zusammenarbeit mit Forschungseinrichtungen, Universitäten und anderen Unternehmen kann Innovationen fördern und gleichzeitig Compliance sicherstellen. Solche Partnerschaften können wertvolle Ressourcen und Expertise bieten, die einzelne Unternehmen möglicherweise nicht intern vorhalten. Auch hier bieten sich Technologietransfermanager an, die sich sowohl inhaltlich als auch zur Vernetzung mit Forschungseinrichtungen mit dem Thema vertraut machen.

Weitere Fachbeiträge zum AI Act anderer Industrie- und Handelskammern

Veranstaltungen und weitere Informationen

Nachstehend finden Sie Fachbeiträge und Impulse, um sich mehr mit dem Thema KI und auch dem Megatrend GPT-KI vertraut zu machen.
IHK24 Bannerbild ChatGPT

Hier geht es zu Erklärungen, Prompt-Beispielen und weiteren Tipps und Tricks zu ChatGPT und weitere Hintergründe zur KI finden Sie unter Die Mär künstlicher Intelligenz.
IHK24 Bannerbild Microsoft Anpassungen 2023

Hintergründe und Anregungen zu den Anpassung von Microsofts Nutzungsbedingungen finden sich hier: Anpassungen bei Microsoft
IHK24 Artikel Bannerbild 2023 (5)

Weitere Vertiefungen zum Thema ChatGPT sind in diesem Gastbeitrag zu finden: ChatGPT und jetzt?

Käpsele Innovation Festival

Workshops und Online-Veranstaltungen

IHK24 Bannerbild 2023 Robert Way

Bei Bedarf kommen wir in Ihr Unternehmen und bieten einen individuellen Workshop für Ihre Mitarbeitenden und Führungskräfte an. Mehr dazu unter Workshop Digitalisierung und Künstliche Intelligenz

Kostenfreie Online-Veranstaltungen

Kostenfreier Online-KI-Einstiegskurs

Wer sich mit Künstlicher Intelligenz noch nicht beschäftigt, aber den Einstieg noch nicht geschafft hat, kann sich hier kostenfrei fortbilden: https://www.elementsofai.de/

Födermittelberatung

In Deutschland stehen Unternehmen ca. 1.800 unterschiedlichste Fördermittel zur Verfügung. Auskünfte geben Ihnen die Kollegen, welche unter Fördermittel für Unternehmen - IHK Südlicher Oberrhein zu finden sind.
Insbesondere die steuerliche Förderung von Forschung und Entwicklung ist ein sehr interessantes und besonderes Konzept, um Innovationen auch rückwirkend für vergangene Geschäftsjahre geltend zu machen. Nähere Informationen hierzu erhalten Sie von Philipp Klemenz.

Glossar

  • AI Act (KI-Gesetz): Ein Gesetzentwurf auf EU-Ebene, der darauf abzielt, die Entwicklung und den Einsatz künstlicher Intelligenz (KI) zu regulieren, um Sicherheit, Transparenz und die Einhaltung ethischer Standards sicherzustellen.
  • Verordnung: Ein rechtsverbindliches Gesetz der Europäischen Union, das unmittelbar in allen Mitgliedstaaten Geltung hat, ohne dass es einer nationalen Umsetzung bedarf.
  • Richtlinie: Ein Rechtsakt der Europäischen Union, der von den Mitgliedstaaten innerhalb einer bestimmten Frist in nationales Recht umgesetzt werden muss.
  • Compliance: Die Einhaltung von gesetzlichen Bestimmungen und internen Richtlinien innerhalb von Organisationen.
  • Transparenz: In diesem Kontext bezieht sich der Begriff auf die Nachvollziehbarkeit und Offenlegung der Funktionsweise und Entscheidungsfindung von KI-Systemen.
  • Risikobasierte Regulierung: Ein Ansatz, bei dem die Strenge der Regulierungsmaßnahmen je nach Einschätzung des Risikos, das von einem Produkt oder einer Dienstleistung ausgeht, angepasst wird.
  • Risikoklassen: Kategorien, die das potenzielle Risiko von KI-Systemen basierend auf ihrer Anwendung und ihren Auswirkungen bewerten. Die vier Klassen sind: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales oder kein Risiko.
  • Social Scoring-Systeme: Systeme, die das Verhalten von Menschen bewerten und daraus Scores ableiten, die dann für verschiedene Zwecke verwendet werden können, oft mit weitreichenden sozialen Konsequenzen.
  • Innovationsfähigkeit: Die Fähigkeit eines Unternehmens, neue Ideen, Produkte oder Verfahren zu entwickeln und erfolgreich auf dem Markt einzuführen.
  • Regulatorische Sandkästen: Rahmenbedingungen, die es Unternehmen ermöglichen, neue Produkte oder Dienstleistungen unter realen Bedingungen zu testen, während sie gleichzeitig reguliert und überwacht werden, um Compliance sicherzustellen.
(Stand 2. Mai 2024, Autor: Emmanuel Beule)