In einem Vortrag für VHS Wissen live referierte Ute Schmid über die Frage, wie vertrauenswürdig KI-Systeme sind. Schmid leitet den Lehrstuhl für Kognitive Systeme an der Uni Bamberg und Mitglied im bayerischen KI-Rat
Vorrang menschlichen Handelns und menschlicher Aufsicht
Sie sieht ihre Aufgabe darin, die Entwicklung und Herausforderungen der digitalen Transformation besser verstehen. Sie wollen Grundlagen erarbeiten, um die diagonale Zukunft verantwortungsvoll zu gestalten. KI-Systeme können Menschen bei komplexen Entscheidungs- und Problemlösungsprozessen unterstützen Sie erläuterte verschiedene technische und nicht-technische Kriterien, denen eines gemeinsam ist: Vorrang menschlichen Handelns und de menschlichen Aufsicht
Eigene Erfahrungen und Kenntnisse notwendig
Schmid betonte, dass eigene Erfahrungen und Kenntnisse im Umgang mit KI notwendig sind, auch um den unterschiedlichen Arten von Täuschungen zu erkennen:
• Interaktion: Kommuniziere ich mit einem Mensch oder einem KI-System
• Fehleinschätzung der Fähigkeiten von KI-Systeme
• Generierte Resultate: Es gibt fehlerhafte Inhalte
• Funktionsweise von KI-Systeme: Generierung vs. Systematische Suche nach vorhandenen Informationen
Sie warnte für Übervertrauen und Untervertrauen, d.h. wegen eines Fehlers ist nicht alles andere auch falsch, andererseits ist nicht alles richtig und relevant. Hier benötige ich Kenntnisse, um dies beurteilen zu können. Dies betrifft sowohl komplexe Themen wie Quantenphysik als auch einfache Aufgaben, die die KI möglichweise nicht lösen kann, z.B. das zuverlässig Erkennen von Bildern.
Großes Potential, aber auch Probleme
Die Referentin sieht in der Nutzung künstlicher Intelligenz ein großes Potential: bei Übersetzungen, Zusammenfassung, einfache Programmieraufgaben oder der Generierung von Ideen.
Allerdings sieht sie auch Probleme: immer mehr Inhalte werden generativ erzeugt und sind wieder Grundlage für weitere Inhalte. Es gibt eine Tendenz zu mittelmäßiger Sprache, die verarmt wird.
Systemen werden menschliche Eigenschaften zugeschrieben
Weitere Probleme sieht sie bei der Zuschreibung menschlicher Eigenschaften:
KI-Systeme sind nicht immer korrekt und objektiv. Sie sind auch nicht „selbstlernend“, vielmehr werden die Daten von (schlecht bezahlten) Menschen klassifiziert und eingeordnet.
Sie verfügen auch nur über Kenntnisse in einem Bereich: eine KI zu Schach kann keine anderen Probleme lösen.
Zukunft Mensch und Künstliche Intelligenz
Die Zukunft sieht sie in einem Zusammenspiel zwischen Mensch und KI: Die Menschen bringen ihr Erfahrung ein und prüfen die Inhalte. Fachkenntnis ist dabei absolut notwendig, denn er muss in der Lage sein die ausgegebenen Inhalte prüfen zu können.
Sie befürchtet, dass Menschen ein fehlendes Qualitätsbewusstsein und anstatt auf eigene Motivation und Anstrengung auf schnelle Bedürfnisbefriedigung setzen.
Verstehen statt Nachplappern
Damit es zu einer guten Zusammenarbeit kommen kann, fordert Schmid die beste Förderung für alle und Bildungsgerechtigkeit. Gezielt sollte der Erwerb von Kompetenzen gefördert werden.
Ziel Ist „Verstehen statt Nachplappern“: Dazu zählt sie Kompetenzen bei der Problemlösung und Bewertung sowie dem Erleben von Selbstwirksamkeit.
Künstliche Intelligenz in meinen Seminaren
Im Bereich Wirtschaft und Soziales biete ich ein Seminar zum Thema Künstliche Intelligenz. Dabei präsentiere ich auch einige Thesen der Autorin.