Der Rat der 27 EU-Mitgliedstaaten hat am 21. Mai 2024 den AI Act und damit einen einheitlichen Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in der Europäischen Union verabschiedet. Die KI-Verordnung (KI-VO) ist weltweit das erste umfassende Regelwerk für die Nutzung der Künstlichen Intelligenz in Unternehmen.
Mit Wirkung vom 02. Februar 2025 greift dieses Gesetz auch in Deutschland und die hiesigen Firmen sind zur Umsetzung der allgemeinen Vorschriften und Verbote verpflichtet. Grund genug, ein Blick auf die daraus folgenden Herausforderungen zu werfen.
Worauf sollten die Unternehmen achten?
Im Art. 4 der KI-VO wird ein Nachweis der KI-Kompetenz formuliert. Daraus ergibt sich, dass Unternehmen, deren Mitarbeitende mit KI-Systemen arbeiten, diesen Nachweis zu erbringen haben.
Für die Unternehmen entsteht daraus die Verpflichtung Mitarbeitende im Umgang mit KI-System zu instruieren bzw. anzuleiten. Allerdings wird in der Verordnung nicht genau ausgeführt, wie Firmen den Nachweis einer KI-Kompetenz darzulegen haben.
Was folgt daraus für Unternehmen?
Art. 5 der Verordnung beschreibt Ge- und Verbote, die bei einem Einsatz von KI-Systemen zu beachten sind. Hieraus ergibt sich für die Unternehmen, dass sie im Rahmen einer Richtlinie oder Anweisung klare Regeln für die Mitarbeitenden im Umgang mit den KI-Angeboten formulieren sollten. In einem solchen Papier könnten auch konkrete Hinweise darauf zu finden sein, zu welchen Zwecken die jeweiligen KI-Angebote herangezogen werden (dürfen).
Besonders wichtig sind in diesem Zusammenhang Erläuterungen über rechtliche Konsequenzen aus der Eingabe von Informationen in die KI-Anwendungen. Dabei sind urheberrechtlich geschützte Themen, der vertrauliche Umgang mit Unternehmensinformationen oder Geschäftsgeheimnissen und natürlich der Schutz personenbezogener Daten hervorheben. Solche Angaben dürfen nicht zur Verarbeitung in KI-Anwendungen kommen, was sich natürlich auch aus der DS-GVO oder anderen einschlägigen Vorschriften ergibt.
Inwieweit die Anwendung von KI jeweils durch eine weitere Person freigegeben werden sollte (Vier-Augen-Prinzip) wird jedes Unternehmen für sich entscheiden müssen. Klar sollte allerdings allen Beteiligten sein, dass bei der Verwendung von KI die erforderlichen Sorgfaltspflichten eingehalten werden. Insbesondere empfiehlt es sich, sämtliche Ergebnisse der KI-Anwendung (bspw. generierte Antworten und/oder Texte) zu überprüfen und einer eingehenden Qualitätskontrolle zu unterziehen, bevor sie verwendet werden.
Sofern Ergebnisse von KI-Anwendungen zur Entscheidungsfindung genutzt werden, empfiehlt sich auch, eine besonders sorgfältige Kontrolle der KI-Ergebnisse durchzuführen. Entscheidungen, die unter Zuhilfenahme von KI-Ergebnissen getroffen werden, sollten stets überprüfbar sein. Eine automatisierte Entscheidungsfindung ohne ausschlaggebenden menschlichen Entscheidungsspielraum ist nicht empfehlenswert und es könnte überlegt werden, ob man dies nicht sogar untersagen sollte.
Daraus ergibt sich logisch, dass Unternehmen ihre Mitarbeitenden in die KI-Arbeit einweisen und schulen, respektive fortbilden sollten, wobei in der Verordnung keine Konkretisierung für Form und Umfang beschrieben ist.
Ist eine Risikobewertung von KI-Systemen notwendig?
Die Frage der Risiko-Bewertung eines eingesetzten KI-Tools dürfte in diesem Zusammenhang nicht immer leicht vorzunehmen sein. Es sollte daher die Frage erörtert werden, für welche Zwecke man die Nutzung von KI-Tools konkret und sinnvoll freigeben möchte oder auch kann. Und es kann notwendig sein, dass die Anwendung spezifischer, als sogenannte Risiko-KI bewerteter, Tools grundsätzlich verboten wird. Da muss jedes Unternehmen hochsensibel sein und sicherlich auch regelmäßig die neuentstehenden KI-Angebote prüfen und bewerten.
Nicht unterschlagen werden soll an dieser Stelle der Hinweis, dass auch bei der Anwendung von KI-Werkzeugen die Unternehmen für das Handeln ihrer Mitarbeitenden haften. Es liegt somit im eigenen Interesse der Unternehmen, mittels einer intensiven Einweisung, Schulung und regelmäßigen Fortbildung über einen bewussten und verantwortungsvollen Umgang mit KI-Anwendungen aufzuklären und dieses Wissen mit einer für die Kultur und das Miteinander passenden Richtlinienstruktur für die Zukunft zu steuern.
(PD)
Hinterlasse einen Kommentar