In einem Vortrag für VHS Wissen live referierte Ute Schmid über die Frage, wie vertrauenswürdig KI-Systeme sind. Schmid leitet den Lehrstuhl für Kognitive Systeme an der Uni Bamberg und ist Mitglied im bayerischen KI-Rat
Vorrang menschlichen Handelns und menschlicher Aufsicht
Sie sieht ihre Aufgabe darin, die Entwicklung und Herausforderungen der digitalen Transformation besser zu verstehen. Der KI-Rat will Grundlagen erarbeiten, um die diagonale Zukunft verantwortungsvoll zu gestalten. KI-Systeme können Menschen bei komplexen Entscheidungs- und Problemlösungsprozessen unterstützen. Sie erläuterte verschiedene technische und nicht-technische Kriterien, denen eines gemeinsam ist: "Vorrang menschlichen Handelns und de menschlichen Aufsicht".
Eigene Erfahrungen und Kenntnisse notwendig
Schmid betonte, dass eigene Erfahrungen und Kenntnisse im Umgang mit KI notwendig sind, auch um den unterschiedlichen Arten von Täuschungen zu erkennen:
• Interaktion: Kommuniziere ich mit einem Menschen oder einem KI-System
• Fehleinschätzung der Fähigkeiten von KI-Systeme
• Generierte Resultate: Es gibt fehlerhafte Inhalte
• Funktionsweise von KI-Systeme: Generierung vs. Systematische Suche nach vorhandenen Informationen
Sie warnte für Übervertrauen und Untervertrauen, d.h. wegen eines Fehlers ist nicht alles andere auch falsch, andererseits ist nicht alles richtig und relevant. Kenntnisse sind notwendig, um die Ergebnisse richtig beurteilen zu können. Dies betrifft sowohl komplexe Themen wie Quantenphysik als auch einfache Aufgaben, die die KI möglichrtweise nicht lösen kann, z.B. das zuverlässige Erkennen von Bildern.
Großes Potential, aber auch Probleme
Die Referentin sieht in der Nutzung künstlicher Intelligenz ein großes Potential: bei Übersetzungen, Zusammenfassung, einfache Programmieraufgaben oder der Generierung von Ideen.
Allerdings sieht sie auch Probleme: immer mehr Inhalte werden generativ erzeugt und sind wieder Grundlage für weitere Inhalte. Tendenziell wird die Sprache schlechter und verarmt.
Systemen werden menschliche Eigenschaften zugeschrieben
Weitere Probleme sieht sie bei der Zuschreibung menschlicher Eigenschaften:
KI-Systeme sind nicht immer korrekt und objektiv. Sie sind auch nicht „selbstlernend“, vielmehr werden die Daten von (schlecht bezahlten) Menschen klassifiziert und eingeordnet. Sie verfügen auch nur über Kenntnisse in einem Bereich: eine KI zu Schach kann keine anderen Probleme lösen.
Zukunft Mensch und Künstliche Intelligenz
Die Zukunft sieht sie in einem Zusammenspiel zwischen Menschrn und KI: Die Menschen bringen ihre Erfahrungen ein und prüfen die Inhalte. Fachkenntnisse sind dabei absolut notwendig, denn der Mensch muss in der Lage sein, die ausgegebenen Inhalte prüfen zu können.
Sie befürchtet, dass Menschen ein fehlendes Qualitätsbewusstsein und anstatt auf eigene Motivation und Anstrengung auf schnelle Bedürfnisbefriedigung setzen.
Verstehen statt Nachplappern
Damit es zu einer guten Zusammenarbeit kommen kann, fordert Schmid die beste Förderung für alle und Bildungsgerechtigkeit. Gezielt sollte der Erwerb von Kompetenzen gefördert werden.
Ziel Ist „Verstehen statt Nachplappern“: Dazu zählt sie Kompetenzen bei der Problemlösung und Bewertung sowie dem Erleben von Selbstwirksamkeit.
Künstliche Intelligenz in meinen Seminaren
Im Bereich Wirtschaft und Soziales biete ich ein Seminar zum Thema Künstliche Intelligenz. Dabei präsentiere ich auch einige Thesen der Autorin.