top of page
PANTA RHAI - Background

Ethikrat auf der Bundespressekonferenz zum Thema KI

Heute morgen um 10:00h gab es in der Bundespressekonferenz eine

Stellungnahme zum Thema „Mensch und Maschine - Herausforderungen durch Künstliche Intelligenz“ vom Ethikrat.


Fand ich so spannend, sodass ich mir die PK angeschaut habe. Hier meine Zusammenfassung und eigene Einschätzungen.


Kernaussage war: „Delegieren von durch Menschen durchgeführte Tätigkeiten an Maschinen darf nicht zur Einschränkung der Handlungsmöglichkeiten des Menschen führen. Erweiterung von Handlungsmöglichkeiten von bestimmten Gruppen dürfen nicht zu Einschränkungen von Menschen anderer Gruppen führen.“


Vier Segmente wurden in der Stellungnahme explizit betrachtet:


Medizin:


KI ist in einzelnen Bereichen, aber nicht nicht in der breiten Praxis, angekommen. Vor allem in der medizinischen Forschung.

Wichtig ist, das „Deskilling“, der Verlust von Kompetenzen, im Blick zu behalten und zu vermeiden ist. Vollständiges Ersetzen von Ärztinnen und Ärzten gefährdet das Patientenwohl.


Bildung:


Der Einsatz von KI wird als ambivalent angesehen. Das Verhältnis von Lehrkräften und Lernenden könnte aus dem Gleichgewicht geraten, sodass Bildungsziele nicht erreicht werden könnten.


Kommunikation:


Es stellt sich die Frage, ob es eine Kommunikationsplattform in öffentlicher Verwaltung oder vielleicht als Siftungs-Modell geben sollte. Müsste auf europäischer Ebene erfolgen, um schlussendlich die Demokratie zu stabilisieren. Es geht hierbei keinesfalls um die Ausdehnung des Öffentlich-Rechtlichen Rundfunks sofern darum, dass beispielsweise bestehende Filterblasen kommerzieller Plattformen gar nicht erst aufkommen und Einflussnahme der Nutzerinnen und Nutzer erfolgen könnten.

Genauer hinhören sollte man aus meiner Sicht hierbei, da es auch zur Debatte stehen könnte, privatwirtschaftliche Plattformen einzuschränken, um öffentlichen Modelle eine Chance zu geben.


Öffentliche Verwaltung:


Systeme zur Entscheidungsverbesserung werden bereits heute eingesetzt. Es ist aber nicht bewiesen, dass diese Systeme zwangsläufig zu besseren Entscheidungen führen. Wege zur Entscheidungsfindung müssen zugänglich gemacht werden, um beispielsweise Diskriminierung die auf Entscheidungen solcher Systeme beruhen, auszuschließen.


Die Frage, die sich mir insgesamt stellt, ist, wie KI dazu beitragen kann, Ungerechtigkeiten zu verhindern oder zu reduzieren und zu minimieren.

Vom Ethikrat wurde darauf hingewiesen, dass bestimmte existierende Ungerechtigkeiten durch KI (wohl aufgrund „ungerechter“ Trainingsdaten) reproduziert oder verstärkt werden. Wie kann das verhindert werden? Aktuell wird das kaum möglich sein, da Trainingsdaten ja immer einer gewissen Einfärbung der Betrachtung unterliegen können. Je nach Herkunft und Qualität der Trainingsdaten.

Hier könnte man laut Ethikrat gegensteuern, indem die Trainingsdaten ausgewogenere seien. Es stellt sich natürlich die Frage, wer entscheidet, ob Daten nun ausgewogen sind oder nicht. Auch hier käme es dann zu einer Einfärbung, wenn nicht gar Manipulation der Daten im Sinne des jeweiligen Erstellers des Modells.

Wichtig ist sicherlich „Explainable AI“. Also das Reduzieren der Blackbox der Entscheidungsfindung, um Entscheidungen verstehbar und nachvollziehbarer zu gestalten.


Es kam auch die Frage auf, ob Deutschland und Europa nun Nachteile haben, da die meisten relevanten KI-Systeme in den USA oder auch China entwickelt werden. Der Ethikrat gibt hier zu bedenken, dass dies so sein könnte. Auch auf Basis sozio-kultureller Unterschiede zu anderen Regionen der Welt, in denen KI-Systeme entstehen. Es darf aber aus Sicht des Ethikrates nicht zur Absenkung von Standards kommen, um hier gegenzusteuern. Dies ist sicherlich zu befürworten. Die Europäer sollten etwas wie „KI-Ethics made in Europe“ entwickeln, damit Wertvorstellungen Einzug erhalten, die nicht unbedingt weltweit gelten.


Sehr spannend fand ich den Einwurf von Herrn Prof. Nida-Rümelin in Hinblick darauf, wo die Innovationen im Bereich der KI originär herkommen. Disruptive Businessmodelle haben zwar häufigeren Ursprung im Silicon Valley, aber die hier zugrunde liegenden Innovationen stammen bei genauerem Hinsehen hauptsächlich aus dem US-Militär, aus dem israelischen Militär und der Wissenschaft.


So wurde beispielsweise das MP3 Format (hat jetzt nichts mit KI zu tun) am Fraunhofer Institut entwickelt. Zum monetären Erfolg wurde MP3 aber dann in den USA geführt. Dies aus meiner Sicht sicherlich auch durch die Einführung des iPods von Apple. In einer Debatte vor einigen Jahren kam mir zu Ohren, dass auch genau aus solchen Gründen die Behörde für Sprunginnovationen in Deutschland gegründet wurde. Hier sollten wir auch genau hinschauen, wer überhaupt von der Existenz und der Förderung dieser Behörde profitiert hat und profitieren wird. Hoffentlich sind dies nicht nur Konzerne. Ich habe aktuell keine Information darüber, wie eine Zusammenarbeit mit dieser Behörde ablaufen könnte. Können Förderanträge gestellt werden? Wenn ja, wie?


Dies bringt mich zu einem Gedanken, den ich nicht näher vertiefen, aber kurz ansprechen möchte. Könnte es sinnvoll sein, dass KI bei der Stellung von Förderanträgen maßgeblich hilft? Dies würde die Chancengleichheit in diesem Bereich sicherlich verbessern. Warum? Heute ist es häufig großen Organisationen oder solchen Organisationen vorbehalten bestimmte Anträge zu stellen, die sich dies überhaupt finanziell leisten können. Der Aufwand ist teilweise immens, um eine Förderung zu beantragen, sodass kleinere Player gar nicht erst Anträge stellen. Hier könnte KI sicherlich helfen, die Chancengleichheit zu erhöhen. Gibt es solche Ansätze vielleicht schon?


Jetzt noch kurz zum Ende der PK.

Prof. Dr. Alena Buyx merkte auf Nachfrage an, dass sie sich wünscht, dass in der öffentlichen Debatte keine Verteufelung von KI aber auch kein bedingungsloses Hinterherlaufen des Hypes stattfindet. Vielmehr müsste es partizipative Debatten geben. Das sehe ich auch so. Wir sind erst am Anfang der KI-begleiteten Reise und sollten weder Scheuklappen, noch ungefragtes Hinterherhecheln des aktuellen Hypes praktizieren. Insbesondere deshalb, da die meisten von uns (zumindest mittel- und langfristig) eher Anwender von KI denn Macherinnen oder Macher eigener KI-Innovationen sein werden.


Herunterladen könnt Ihr die Stellungnahme des Ethikrates hier:

Hier könnt Ihr die Stellungnahme von über 280 Seiten herunter laden:



Dies war nur der Auftakt zu den komplexen Themen Ethik, Gleichgestellung, Chancengleichheit und vielem mehr. Diese Themen wollen wir hier bei PANTA RHAI künftig immer wieder adressieren.

Comments


bottom of page