Verena Till, Koordinatorin für das Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) © Verena Till

07 Februar 2022

„Expert:innen sind in der Pflicht bei der Entwicklung von KI-Systemen Fairness, Transparenz und Nachvollziehbarkeit zu berücksichtigen.“

Wie können Algorithmische Systeme zum Wohle der Gesellschaft gestaltet werden, um das Vertrauen in die eingesetzten Technologien stärken? Als nationale und neutrale Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft soll das neu gegründete Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) als zentraler Ort der Debatte in Deutschland die Entwicklungen rund um gesellschaftliche Fragen zu Künstlicher Intelligenz und algorithmischen Systemen greifbar machen. #ki_berlin hat mit ZVKI-Koordinatorin Verena Till vom Berliner Think Tank iRights.Lab über die Aufgaben und Ziele des Zentrums, die Zertifizierung von KI-Lösungen und Wissensvermittlung gesprochen.

Hallo Frau Till, unser tägliches Leben wird immer mehr durch technologische Fortschritte etwa im Bereich der Künstlichen Intelligenz beeinflusst, was durch ihre Komplexität in der Gesellschaft auch Ängste schürt. Welchen Fragen nimmt sich das neu gegründete Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) an?

Algorithmische Systeme und Künstliche Intelligenz sind nicht nur Begriffe aus Fachdiskussionen, sondern kommen vielfach und jeden Tag in unser aller Alltag zum Einsatz. Mit Hilfe von KI-Systemen werden Entscheidungen getroffen, die erhebliche Auswirkungen auf unser Leben haben. Manche denken da vielleicht an empfohlene Filme oder an die Hörgewohnheit angepasste Playlists bei Streamingdiensten. Man denke aber dabei z. B. auch an Kreditwürdigkeitsprüfungen oder Auswahlverfahren bei Bewerbungen. Das ZVKI geht übergeordnet der Frage nach, wie KI-Technologie zum Wohle der Gesellschaft gestaltet werden und eine menschzentrierte Ausrichtung gelingen kann. Der Mensch im Zentrum ist die Basis für Vertrauen in KI und Treiber einer positiven gesellschaftlichen Entwicklung im Kontext der Digitalisierung.

Da KI interdisziplinär gedacht und gestaltet werden muss, ergeben sich für unterschiedliche Stakeholder auch unterschiedliche Fragestellungen und Herausforderungen. Beispielsweise müssen Nutzer:innen aufgeklärt und mit der nötigen Digitalkompetenz für einen sicheren Umgang mit Technik ausgestattet werden. Unternehmen wiederum benötigen Expert:innen und Richtlinien für ihre Arbeit mit KI und die Gesetzgebung ist in der Verantwortung die entsprechenden Leitplanken zu schaffen. Das ZVKI möchte als Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft agieren, über verbraucher:innenrelevante Aspekte von KI informieren, öffentliche Diskussionen ermöglichen und Instrumente zur Bewertung und Zertifizierung von vertrauenswürdiger KI entwickeln.

Wie kam die Idee zur Gründung des ZVKI und wie ließ sich das Projekt in die Tat umsetzen?

Die Entwicklung rechtlicher Rahmbedingungen zum Einsatz von KI-Systemen kann mit der Geschwindigkeit der technischen Entwicklungen kaum mithalten. Auch die Belange und Interessen von Verbraucher:innen in diesem Zusammenhang wurden bislang nur unzureichend berücksichtigt.

Die Idee, einen Ort ins Leben zu rufen, an dem alle Fäden zusammenlaufen und der den Verbraucher:innenschutz in den Mittelpunkt rückt, entstand 2021: Das Zentrum für vertrauenswürdige Künstliche Intelligenz. Initiator des Projekts ist unser Direktor Philipp Otto.

Gefördert durch das Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz, baut das iRights.Lab daher in Zusammenarbeit mit den Fraunhofer-Instituten AISEC und IAIS sowie der Freien Universität Berlin seit Herbst 2021 das Zentrum auf.

Mit welchen Zielen gehen Sie mit dem Projekt an den Start und welche Aspekte wollen Sie zunächst in den Fokus rücken?

Das ZVKI soll als zentraler Ort der Debatte in Deutschland die Entwicklungen rund um gesellschaftliche Fragen zu Künstlicher Intelligenz und algorithmischen Systemen greifbar machen. Es soll Wissen über KI vermitteln, aufklären und informieren. Wir werden zielgruppenspezifische Angebote und Formate bereitstellen: Neben digitalen und analogen Informationsmaterialien wird es Podcasts, Filme und Veranstaltungen geben. Unser Ziel ist es, alle Bürger:innen zu erreichen, ob zu Hause, am Schreibtisch oder – insofern es die pandemische Situation zulässt – auch mal am Samstag in der Fußgängerzone.

Neben der Zivilgesellschaft adressieren wir aber auch ein interdisziplinäres Fachpublikum. Die wissenschaftliche Begleitung der Entwicklungen rund um KI ist ein wesentlicher Bestandteil unserer Arbeit beim ZVKI. Wir untersuchen unter anderem, welche rechtlichen und politischen Schritte unternommen werden müssen, um die Menschen vor negativen Auswirkungen von KI zu schützen und wollen hier mit unterschiedlichen Stakeholdern in den Dialog treten. Auch die Evaluierung und die Zertifizierung von KI wird eine große Rolle spielen.

Um dem interdisziplinären Ansatz des Projekts gerecht zu werden, sollen hier zeitnah Arbeitsgruppen und Austausch-Formate ins Leben gerufen werden. Zudem planen wir am 31. März ein großes Event, bei welchem die Verbundpartner ihre Arbeit vorstellen und einen inhaltlichen „Deep Dive“ in verschiedene Fokusbereiche vornehmen.

Im Fokus des Projekts steht zudem die Gründung eines gemeinnützigen Vereins, der die Projektziele über den Förderzeitraum hinaus weiterverfolgen soll.

Viele Vorgänge werden bereits durch KI-Lösungen unterstützt, ohne dass diese bewusst wahrgenommen oder hinterfragt werden. Ist eine stärkere Vermittlung von Wissen darüber, was eine KI sein kann, was sie sein und nicht sein soll, essentiell oder sollten wir eher auf KI-Gütesiegel setzen, die Vertrauen schaffen?

Sowohl als auch! KI-Systeme finden in einer steigenden Anzahl von Lebensbereichen Anwendung, wie zum Beispiel bei der Vorauswahl von Bewerber:innen für Arbeitsplätze, bei der redaktionellen Erstellung von Content, beim Filtern von Nachrichten, bei der Erkennung von Falschmeldungen oder auch in der Medizin, bei der Diagnose oder Therapie von Krankheiten. Systeme, die derart stark in unseren Alltag hineinwirken, müssen möglichst transparent und in ihrer Funktion nachvollziehbar sein. Sie müssen zudem und vor allem eine hohe Vertrauenswürdigkeit aufweisen. Ein grundlegendes Wissen über die Funktionsweise von Algorithmen ist aus unserer Sicht essentiell, um souverän und selbstbestimmt Entscheidungen zu treffen und den Einsatz von KI kritisch zu hinterfragen. Hier möchte das ZVKI einen wesentlichen Beitrag leisten.

Da aber klar ist, dass nicht jede:r von uns KI-Expert:in ist, müssen auch Wirtschaft, Wissenschaft und Politik ihren Beitrag zur Schaffung von Vertrauen leisten. Expert:innen sind in der Pflicht bereits bei der Entwicklung von KI-Systemen bestimme Parameter wie Diskriminierungsfreiheit, Fairness, Transparenz und Nachvollziehbarkeit zu berücksichtigen. Wenn KI-Lösungen den Kriterien der Vertrauenswürdigkeit entsprechen und sogar zertifiziert werden, schafft dies natürlich zusätzliches Vertrauen bei Nutzer:innen. Gütesiegel finden wir auch an anderen Stellen in unserem Alltag und wir haben gelernt, dass sie hilfreich sind. Somit sind Zertifizierungen zwar sehr förderlich für Vertrauen, aber können dennoch ein erforderliches Basis-Wissen nicht ersetzen.

Wenn das Verständnis für Künstliche Intelligenz stärker geschult werden soll, wie kann dieses Wissen ganz konkret vermittelt werden und welche Zielgruppen wollen Sie dabei ansprechen?

Die Vermittlung von Wissen über Digitalisierung, insbesondere Künstliche Intelligenz, kann und muss sogar ganz unterschiedlich funktionieren. Wichtig ist das richtige Format für die jeweilige Zielgruppe zu finden und die Menschen nicht zu überfordern. Das heißt, dass wir auch sehr niedrigschwellige Angebote haben werden, um auch „KI-Neulinge“ abzuholen. Denkbar sind Infoveranstaltungen in Fußgängerzonen und Jugendclubs oder Volkshochschulen. Wir möchten hier explizit alle Alters- und Bildungsgruppen adressieren und mit unterschiedlichen Stakeholdern kooperieren.

Für die interessierte Fachöffentlichkeit planen wir zudem Formate wie Podiumsdiskussionen oder kleine Townhall-Formate, bei denen man tiefer in das Thema einsteigen kann.

Die Ziele des ZVKI beinhalten auch die Bewertung und Zertifizierung von KI-Lösungen. Wie funktioniert so etwas und welche Ansätze gibt es bereits?

Instrumente zur Bewertung und Zertifizierung von KI sind eine wichtige Grundlage für das Vertrauen der Menschen in KI-Systeme. Diese Art der Qualitätssicherung für KI-Anwendungen wird bereits von vielen verschiedenen Akteuren verfolgt. Auch das iRights.Lab hat sich in der Vergangenheit schon mit dem Thema auseinandergesetzt und u. a. in einem offenen partizipativen Prozess neun Regeln für die Gestaltung algorithmischer Systeme entwickelt: die „Algo.Rules“.

Auf ihrer Grundlage sind im Laufe des Prozesses verschiedene Praxishilfen für die gemeinwohlorientierte Gestaltung algorithmischer Systeme für viele relevante Zielgruppen entstanden. Auch unsere Verbundpartner Fraunhofer AISEC, Fraunhofer IAIS und die FU Berlin beschäftigen sich seit Langem intensiv mit dem Thema Zertifizierung und bringen Erfahrungswissen aus verschiedenen Projekten mit. Neben der eigenen Expertise möchten wir bestehende Ansätze und Initiativen anderer Akteuren aufnehmen, weiterentwickeln und gemeinsam mit ihnen gestalten.

Wie verorten Sie generell Ihre Arbeit: Ist das ein Thema, das global angegangen werden muss, im Rahmen einer Wertegemeinschaft oder das auf nationaler Ebene ablaufen sollte? Welche Rolle spielen dabei regionale Ökosysteme?

Zunächst versteht sich das ZVKI als nationale Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft und möchte sich natürlich auch als eigenständiger Akteur im KI-Ökosystem etablieren. Wir verstehen uns dabei als Netzwerkgestalter und wir bringen die wichtigsten Stakeholder zusammen, um gemeinsam Lösungen für die relevanten Fragen und Herausforderungen von KI als Teil unserer Gesellschaft zu diskutieren.

Dies passiert zunächst auf nationaler Ebene, perspektivisch aber natürlich auch auf europäischer und internationaler Ebene. Mit dem Artificial Intelligence Act der Europäischen Kommission liegt ein Vorschlag zur Regulierung der Nutzung von KI vor, der alle europäischen Länder betrifft und somit auch einen internationalen Dialog erforderlich macht.
Regionale Ökosysteme sind dabei immer hilfreich, um Kräfte zu bündeln und Wirkungskraft zu entfalten. Die zentrale Frage ist: Wo können wir regional agieren und zusammenarbeiten, um überregional zu wirken?

Das Projekt hat mit Ihrem Think Tank iRights.Lab, den Fraunhofer-Instituten AISEC und IAIS sowie der FU Berlin Player an Bord, die ganz nah am KI-Puls der Zeit sind. Wie sehen Sie das Miteinander von Unternehmen, Startups und der Forschung im Berliner KI-Ökosystem generell, auch in Bezug auf die nationale Ebene?

Wir sind national und international gut vernetzt und haben mit dem iRights.Lab in der Vergangenheit bereits verschiedene Kooperationsprojekte durchgeführt. Sowohl mit dem iRights.Lab als auch mit dem ZVKI ist es uns sehr wichtig miteinander und kooperativ an den zentralen Fragen der Digitalisierung zu arbeiten und stets neue Perspektiven kennenzulernen.

Uns war und bleibt immer wichtig, mit unterschiedlichsten Partnern auf allen möglichen Ebenen zusammenzuarbeiten: Behörden, Forschungseinrichtungen, Unternehmen, Verbänden und Organisationen aus der Zivilgesellschaft. National wie international. Auch hier gilt: Wo Digitalisierung ist, da müssen auch wir sein. Das gelingt uns gut und das möchten wir auch mit dem ZVKI erreichen.

Vielen Dank für das Gespräch und viel Erfolg für Ihre Arbeit.

Um unsere Webseite für Sie optimal zu gestalten und fortlaufend verbessern zu können, verwenden wir Cookies. Durch die weitere Nutzung der Webseite stimmen Sie der Verwendung von Cookies zu. Weitere Infomationen zu Cookies erhalten Sie in unserer Datenschutzerklärung.