Es ist paradox: Je komplexer Probleme werden, desto eher müssen wir auf Algorithmen zurückgreifen, die wir nicht mehr verstehen, erleiden damit jedoch indirekt einen Kontrollverlust, was unseren Stress wiederum erhöht. Außer wir vertrauen blind auf Algorithmen. Dafür bräuchte es allerdings eine intensive Beschäftigung mit Algorithmen-Ethik. Denn die Vorbehalte gerade in Deutschland gegen die Digitalisierung und die Macht künstlicher Intelligenzen sind groß.

Wer sich mit Algorithmen-Ethik beschäftigt kommt an der Bertelsmann-Stiftung und der Webseite https://algorithmenethik.de und dem Buch von Jörg Dräger und Mark Müller-Eiselt “Wir und die intelligenten Machinen” nicht vorbei.

Die folgenden Prinzipien im Umgang mit Algorithmen – inspiriert durch die genannten Quellen – zeigen Ihnen, wie eine Algorithmen-Diskussion in Ihrem Unternehmen stattfinden kann:

Vertrauen in die Technik

Algorithmen erleichtern nicht nur unser Leben. Viele Probleme in einer komplexen Welt ließen sich nicht mehr ohne Künstliche Intelligenz lösen. Umso wichtiger ist es, transparent mit dem Einsatz von KI umzugehen. Algorithmen sollten nicht dafür da sein, Mitarbeiter:innen zu überwachen und zu Höchstleistungen anzutreiben, sondern zur Unterstützung in der Arbeit. Die Mitarbeiter:innen müssen nicht verstehen, wie Algorithmen funktionieren. Es sollte jedoch transparent sein, was der Sinn und Zweck eines Algorithmus ist.

Zeit für das Wesentliche vs. Erhöhung der Effizienz

Chatbots oder Roboter-Assistenten können uns dabei helfen, uns auf das zu konzentrieren, was uns wirklich am Herzen liegt. KI-Systeme können Spammails aussortieren, automatische Programme verfassen Standardpressemitteilungen und Ärzte und Pfleger haben dank Versorgungsrobotern mehr Zeit für die Patienten. Dabei müssen wir jedoch aufpassen, dass damit keine neuen Standards gesetzt werden und die frei gewordene Zeit langfristig nicht für andere Tätigkeiten verbucht wird. Die Gefahr ist groß, denn die vergangenen technischen Revolutionen führten häufig zu Entlassungen, anstatt den Berufsalltag sinnvoller und menschenfreundlicher zu gestalten.

Faire Unternehmensentscheidungen

Was wäre, wenn in Bewerbungsgesprächen in Zukunft nicht der Bauch oder die Noten entscheiden würden, sondern eine Mischung aus logisch nachvollziehbaren Faktoren? Vor einigen Jahren entwickelte Amazon einen Algorithmus, der die Bewerbungsunterlagen mit den ausgewählten Kandidaten abglich, um herauszufinden, inwiefern man bereits aus den Unterlagen eine Entscheidung ableiten kann. Das Ergebnis stellte sich als zutiefst frauenfeindlich heraus, da die Bewerber der letzten 10 Jahre mehrheitlich männlich waren und damit alle anderen Kriterien überschatteten. Daraus folgt zweierlei: 1. Augen auf bei der Auswahl der Daten. Und 2. Faire Entscheidungen sollten sich nicht nur auf die Vergangenheit beziehen, sondern auch in die Zukunft gerichtet sein. Dies gilt selbstredend nicht nur für das vermeintlich einfache Beispiel der Personalentscheidungen, sondern ebenso für komplexe Unternehmensentscheidungen. Wollen wir die Zukunft fairer gestalten als die Vergangenheit müssen entsprechende Kriterien im Unternehmenskonsens erarbeitet und in Algorithmen eingearbeitet werden.

Eng mit den Unternehmensentscheidungen ist die Verteilung von Ressourcen verbunden. Wie oft passiert es, dass am Jahresende schnell noch ein paar 1000 € ausgegeben werden müssen, oftmals sinnlos, während dasselbe Geld an anderer Stelle fehlt? Oder dass ein Projekt besonders unterstützt wird, weil es von namhaften oder rhetorisch gut geschulten Unterstützern gefördert wird, während andere Projekte vor sich hin dümpeln? Ein Algorithmus, der das gesamte Unternehmen im Blick hat und ebenso weiß, welche Potentiale in einem Projekt schlummern, könnte dem ein Ende setzen. Damit würden nicht mehr Beziehungen oder Präsentationskompetenzen über den Zugang zu Ressourcen bestimmen, sondern leicht nachvollziehbare Fakten.

Diversität: Teilhabe an sozialen Prozessen vs. erzwungene Gleichheit

Eine Teilhabe am Leben bzw. in Firmen an den täglichen sozialen Prozessen ist für jene interessant, die sich aufgrund eines Handicaps schwer tun, mit den Kolleg:innen mitzuhalten. Menschen mit autistischen Zügen könnte beispielsweise eine App dabei helfen, schwierig zu deutende Situationen besser einzuordnen. Dabei sollten wir jedoch aufpassen, Handicaps nicht überzukompensieren, im Sinne von: Wenn du schon diese App hast, musst du auch angemessen an sozialen Prozessen teilhaben. Damit würde sich der Stress, unter dem diese Menschen leiden vielleicht sogar potenzieren. Andererseits macht gerade die Ungleichheit soziale Prozesse spannend und kreativ, wenn verschiedene Sichtweisen in einem Projekt berücksichtigt werden. Denn auch die Kunden haben oft extrem unterschiedliche Sichtweisen und Bedürfnisse.

Prävention versus Erkennung von Problemen

Reicht es für die Gesundheitsvorsorge in einem Unternehmen aus, eine App zu haben, die Krankheiten, bspw. Depressionen, an der Stimme erkennt? Dies kann sicherlich hilfreich sein, auch wenn man hier darauf achten sollte, Stigmata zu verhindern. Dennoch ist eine Gesundheitsapp nach wie vor weniger wert als ein präventiv arbeitendes Gesundheitsprogramm im Unternehmen. Die KI kann ergänzend, nicht jedoch ersetzend wirken. Das gleiche gilt für die Fehlererkennung auf Organisationsebene.

Personalisierte Weiterentwicklungen

Die Weiterbildung wird in der Zukunft ebenso KI-unterstützt stattfinden. Während sich früher meist die üblichen Verdächtigen in Seminaren fortbildeten oder coachen ließen, können in der Zukunft viele E-Learning-Trainings erschwinglich für alle Mitarbeiter angeboten werden, inklusive persönlichem KI-Lerncoach. Algorithmen werden jedoch auch hier immer aus den Daten der Vergangenheit gespeist. Die Entscheidung für eine Fortbildung, die vielleicht nicht auf den ersten Blick ins Bild passt, jedoch entscheidend für die persönliche Weiterbildung ist, sollte nach wie vor erlaubt sein.

Ein Unternehmensfahrplan für Algorithmenethik

Jörg Dräger und Mark Müller-Eiselt empfehlen einen klaren Fahrplanung im Umgang mit Algorithmen im Unternehmen:

1. Transparenz im Rahmen einer breiten Debatte. Werden im Hintergrund bzw. der Dunkelverarbeitung Entscheidungen getroffen, die kein Mitarbeiter nachvollziehen kann, ist die Ablehnung groß.
2. Fortlaufende Transparenz und Kontrolle. Algorithmische Entscheidungen müssen klar erkennbar und für Nutzer oder unabhängige Dritte überprüfbar, nachvollziehbar und im Zweifel anfechtbar sein. Stellt sich heraus, dass ein Algorithmus den sozialen Frieden in einem Unternehmen bedroht, sollte sein Einsatz rückgängig gemacht werden.
3. Vermittlung von Algorithmen-Kompetenz. Jeder Mitarbeiter sollte die Relevanz der Entscheidungen von Algorithmen für ihn einschätzen können. Wer Software beauftragt, entwickelt und anwendet, muss deren psychologische und soziale Konsequenzen für das Unternehmen mitdenken.

Wenn von KI die Rede ist scheint nur der Himmel die Grenze zu sein. Wir haben es selbst in der Hand, dass die Reise in die Zukunft nicht wie bei Ikarus endet.