KI mit Haltung: „Technologie darf niemals Selbstzweck sein“
Künstliche Intelligenz, Robotik und Industrie-4.0-Konzepte verändern Unternehmen, Arbeitswelten und ganze Branchen in rasantem Tempo. Doch wie gelingt technologischer Fortschritt, ohne den Menschen aus dem Blick zu verlieren? Darüber spricht Marlow Guttmann auf der Fachkonferenz Newtrition X. 2026 – Future Food powered by AI am 12. November 2026 in den media docks Lübeck. Im Gespräch mit foodRegio erläutert der Experte für KI, Ethik und Organisationsentwicklung, warum Innovation Verantwortung braucht und weshalb Technologie den Menschen unterstützen sollte, ohne Verantwortung und menschliche Handlungsfähigkeit zu verdrängen.
foodRegio: Herr Guttmann, wie führte Ihr beruflicher Weg zum Thema Ethik und Robotik?
Marlow Guttmann: Mein beruflicher Weg begann zunächst in der Unternehmensberatung. Später wechselte ich als Personal- und Organisationsentwickler zur Evangelischen Stiftung Alsterdorf, einer großen diakonischen Organisation mit zwölf Tochtergesellschaften und mehr als 7.500 Mitarbeitenden. Dort begegnen mir Fragen nach Werten, Verantwortung, Teilhabe und dem Menschenbild schon aufgrund unseres diakonischen Selbstverständnisses sehr unmittelbar.
Parallel dazu habe ich mich früh intensiv mit Künstlicher Intelligenz beschäftigt. Als ChatGPT Ende 2022 öffentlich verfügbar wurde, begann ich bereits wenige Tage später, mich sehr intensiv mit den Möglichkeiten und Auswirkungen dieser Technologie auseinanderzusetzen. Mich interessierte dabei schnell nicht mehr nur, was KI technisch kann, sondern was ihr Einsatz für Menschen und Organisationen bedeutet.
Diese Beobachtung hat sich durch meine Tätigkeit als Keynote-Speaker noch verstärkt. Auf Konferenzen, Messen und Veranstaltungen habe ich erlebt, wie selbstverständlich inzwischen über KI, Automatisierung und Effizienz gesprochen wird. Gleichzeitig hatte ich häufig den Eindruck, dass eine entscheidende Frage zu kurz kommt: Was bedeutet diese Entwicklung eigentlich für den Menschen?
Genau an dieser Schnittstelle bin ich schließlich gelandet: zwischen Technologie, Organisationsentwicklung und Ethik. Mich beschäftigt die Frage, wie wir technologische Möglichkeiten nutzen können, ohne Verantwortung, menschliche Handlungsfähigkeit und unsere Werte aus dem Blick zu verlieren.
foodRegio: Welche Herausforderungen sehen Sie durch den verstärkten Einsatz von KI und Robotik?
Zunächst einmal sehe ich Ethik keineswegs als Innovationsbremse. Im Gegenteil: KI und Robotik bieten enorme Chancen. Gleichzeitig müssen wir mögliche Risiken bewusst betrachten. Denn nicht alles, was technisch möglich und wirtschaftlich attraktiv ist, ist automatisch verantwortungsvoll. Die entscheidende Frage ist deshalb nicht nur: Was kann KI? Sondern auch: Was sollte sie können dürfen und unter welchen Bedingungen wollen wir sie einsetzen?
Nehmen wir KI-gestützte Bewerbungsprozesse: Heute können Lebensläufe automatisiert analysiert und BewerberInnen anhand von Scores bewertet werden. Das mag effizient sein, wirft aber wichtige Fragen auf: Wie fair sind solche Bewertungen? Werden Menschen möglicherweise benachteiligt? Und hinterfragen wir die Ergebnisse noch ausreichend kritisch?
Das Risiko liegt dabei nicht nur im Algorithmus selbst. Es liegt auch darin, dass Menschen beginnen, maschinellen Empfehlungen mehr zu vertrauen als dem eigenen kritischen Urteil. Unternehmen müssen deshalb Nutzen und Risiken gegeneinander abwägen und die möglichen Folgen automatisierter Entscheidungen bewusst reflektieren.
foodRegio: Wie können wir sicherstellen, dass der Mensch im Mittelpunkt bleibt?
Für mich beginnt menschenzentrierte Digitalisierung mit drei Fragen: Welches Problem wollen wir eigentlich lösen? Wem nutzt die Technologie? Und welche neuen Risiken oder Abhängigkeiten schaffen wir möglicherweise damit?
Vor der Einführung neuer Technologien sollten Unternehmen deshalb nicht allein auf technische Machbarkeit oder Effizienz schauen. Entscheidungen sollten interdisziplinär getroffen werden, und Mitarbeitende aus unterschiedlichen Bereichen sollten frühzeitig einbezogen werden.
Dabei spielen zentrale ethische Prinzipien eine wichtige Rolle. Menschen müssen gegenüber KI informiert, entscheidungsfähig und vor allem widerspruchsfähig bleiben. Gleichzeitig müssen mögliche Nebenwirkungen berücksichtigt werden. Mitarbeitende bringen unterschiedliche Voraussetzungen mit. Deshalb müssen wir vermeiden, dass einzelne Gruppen benachteiligt oder ausgeschlossen werden.
Ebenso wichtig ist die Frage der Gerechtigkeit: Wer profitiert von einem KI-System? Wer trägt mögliche Risiken? Und wer kann die Technologie vielleicht gar nicht nutzen? Da sich KI-Systeme und ihre Nutzung kontinuierlich weiterentwickeln, reicht eine einmalige Bewertung nicht aus. Unternehmen sollten regelmäßig überprüfen, welche Auswirkungen eine Technologie tatsächlich auf Menschen, Prozesse und Zusammenarbeit hat.
foodRegio: Wo sollte die Grenze zwischen menschlicher und maschineller Entscheidung liegen?
KI kann Entscheidungen sehr gut vorbereiten, Daten analysieren und Empfehlungen geben. Entscheidend ist für mich aber, wie weitreichend die Folgen einer Entscheidung sind. Je größer die möglichen Auswirkungen auf einen Menschen sind, desto weniger dürfen wir Verantwortung vollständig automatisieren.
Bei risikoarmen Routineprozessen kann Automatisierung sinnvoll und effizient sein. Wo Entscheidungen aber erhebliche Auswirkungen auf Menschen, ihre Chancen oder ihre Rechte haben, braucht es menschliche Kontrolle und eine klar zurechenbare Verantwortung. Das gilt beispielsweise im Personalwesen, in der Medizin oder bei anderen sensiblen Entscheidungen.
Ein Human-in-the-Loop-Ansatz bedeutet für mich deshalb nicht, dass jede einzelne technische Entscheidung manuell bestätigt werden muss. Er bedeutet vielmehr, dass dort, wo Entscheidungen relevant für Menschen werden, ein Mensch eingreifen, widersprechen und Verantwortung übernehmen können muss. KI kann unterstützen. Verantwortung darf aber nicht in einem System verschwinden.
foodRegio: Mit welchen Fragestellungen werden wir uns in den nächsten fünf Jahren besonders beschäftigen?
Ich glaube, dass wir in fünf Jahren weniger darüber sprechen werden, was KI technisch kann, und viel stärker darüber, wie wir Arbeit, Verantwortung und Organisationen um KI herum neu gestalten.
Ein zentrales Thema wird die Veränderung von Arbeitsplätzen und Berufsbildern sein. Nicht jeder Stellenabbau ist auf KI zurückzuführen, aber die Technologie beschleunigt den Wandel erheblich. Viele Menschen fragen sich bereits heute: Welche Aufgaben bleiben beim Menschen? Welche werden automatisiert? Welche Kompetenzen werden künftig gebraucht?
Dabei geht es nicht nur um Qualifizierung. Wenn KI Aufgaben übernimmt, verändert sie möglicherweise auch das berufliche Selbstverständnis von Menschen. Arbeit ist für viele weit mehr als Erwerbstätigkeit. Sie stiftet Sinn, Identität und Zugehörigkeit. Unternehmen stehen deshalb vor der Aufgabe, Mitarbeitende aktiv durch diesen Wandel zu begleiten, neue Kompetenzen aufzubauen und Orientierung zu geben.
Gleichzeitig wird die Frage nach Verantwortung wichtiger: Wer trägt sie, wenn Mensch und KI gemeinsam Entscheidungen treffen? Wie bleiben Entscheidungen nachvollziehbar? Und wie gestalten wir Organisationen so, dass Menschen auch in zunehmend automatisierten Systemen handlungsfähig bleiben?
foodRegio: Welche Botschaft möchten Sie den TeilnehmerInnen der Newtrition X. 2026 mit auf den Weg geben?
Technologie darf niemals Selbstzweck sein. Gleichzeitig glaube ich, dass wir Künstliche Intelligenz viel stärker als Chance begreifen sollten. Gerade wenn wir darüber sprechen, wie wir in Deutschland produktiver werden, Wertschöpfung sichern und wettbewerbsfähig bleiben können, kann KI einen wichtigen Beitrag leisten. Dafür braucht es aber auch Mut: Mut, Dinge auszuprobieren, neue Wege zu gehen und sich ernsthaft mit den Möglichkeiten auseinanderzusetzen.
Für mich ist KI deshalb weit mehr als ein reines Technologiethema. Sie verändert, wie wir arbeiten, wie wir Entscheidungen treffen und wie Organisationen funktionieren. Genau deshalb ist es wichtig, Menschen auf diesem Weg mitzunehmen, sie zu befähigen und ihnen die Möglichkeit zu geben, diese Entwicklung aktiv mitzugestalten.
Und natürlich gehören dazu auch ethische Fragen. Ich finde aber, dass wir davor nicht zurückschrecken sollten. Es geht nicht darum, Innovation auszubremsen, sondern darum, sich bewusst zu machen, wohin wir eigentlich wollen und welche Auswirkungen unser Handeln hat. Wir sollten neugierig sein, ausprobieren und auch etwas wagen, dabei aber das Menschliche nicht aus dem Blick verlieren. Wenn uns das gelingt, kann KI einen wichtigen Beitrag dazu leisten, Arbeit, Organisationen und wirtschaftliche Entwicklung zukunftsfähig und verantwortungsvoll zu gestalten.