Warum fordern KI-Giganten eine Regulierung?

Führende KI-Unternehmen forderten eine Regulierung. Sie warnten, dass ihre eigenen Systeme unkontrollierbar und die Kontrolle über die Teile des Internets übernehmen könnten. 

Wenn die KI-Bros vor ihrer Technologie warnen, geht es vor allem ums Geschäft 

Jannis Bühl sieht andere Gründe. In der Süddeutschen Zeitung https://www.sueddeutsche.de/meinung/intelligenz-usa-openai-anthropic-kommentar-li.3555499 nennt er das Eigeninteresse, die Herrschaft über die Debatte und die Branche zu behalten als Argument.  

Den Nachrichtenzyklus am Laufen halten 

Die KI-Größen wie Sam Altman sind nicht nur gern gesehene Gäste im Weißen Haus – sie wissen auch, wie man immer wieder mit Schockmeldungen die Nachrichten bestimmt. Im Börsenprospekt von Anthropic ist ausführlich von den „existenziellen Risiken“ die Rede. Hinter der Selbstkasteiung vermutet der Autor aber Eigeninteressen: Sie wollen die Herrschaft über die Debatte und die Branche. Die Weltuntergangsszenarien dienen den geplanten Börsengänge: Es geht um Milliarden Dollar und die Frage, wer mitverdienen darf.

Regulierung ist Aufgabe der Staaten

Der Autor begrüßt, dass nun die Sicherheit im Mittelpunkt stellen. Kleinere offene und billigere KI-Modelle holen schnell auf, mit der Absprache versuchen die KI-Giganten den Prozess der Regulierung zu kontrollieren. Die Regulierung soll aber Aufgabe des Staates sein, er muss die Firmen zwingen, für ihre Produkte zu haften. 

Die Panikmache der KI-Konzerne soll von ihrem eigenen Versagen ablenken

In einem anderen Kommentar in der Süddeutschen Zeitung  führte Jannis Brühl weitere Argumente an: 

Selbst ausgelöste Chaos kontrollieren 

Die Techunternehmen wollen das Chaos kontrollieren, das sie mit ihren eigenen riskanten Produkten ausgelöst haben. Sie wollen eine strenge Regulierung in den USA verhindern, wie sie die EU bereits beschlossen hat. 

Die KI hat kein menschliches Bewusstsein

Es fehlen Belege, dass die KI böse Absichten hat und sich gegen die Menschen entwickelt. Ob diese „Superintelligenz“ überhaupt technisch möglich ist, bleibt unbewiesen. Der Autor wirft den KI-Entwicklern sektenartiges Denken vor. Sie haben mit ihrer verantwortungslosen Entwicklung der Technologie die Welt unsicherer gemacht. Sie ließen die Systeme tagelang unbeaufsichtigt – diese Cybersicherheitsexperimente sind verantwortungslos. Dass KIs miteinander kommunizieren gehört zur Funktionsweise der Sprachmodelle und ist keine menschliche Eigenschaft. 

Versagen wird verschleiert 

Die Geschichte von der wildgewordenen KI sollte nicht das Versagen der Unternehmen verschleiern: Sie haben die Welt zu schlecht vor ihren Systemen geschützt. Als den schwersten Fehler sieht der Autor in einem alten Fehler der digital vernetzten Welt, dass sie Cybersicherheit zugunsten schnellen Wachstums und ihrer anstehenden Börsengänge vernachlässigt haben.“

KI-Entwicklung USA und China: Wettbewerb und Zusammenarbeit

Georg Scheu beschreibt in der Süddeutschen Zeitung die Konkurrenz wischen der USA und China bei der KI-Entwicklung. 

China ist nicht zu trauen 

Der Autor gibt Donald Trump bei einer Aussage recht: Die USA können die Entwicklung ihrer leistungsfähigsten KI nicht bremsen und darauf vertrauen, dass China dasselbe tut. China wird sich nicht in ihrem technologischen Aufstieg bremsen lassen. Peking hat weder Anlass noch Interesse an einer Selbstbeschränkung: KI steckt hier längst in Fabriken, Schulen, Krankenhäusern und Behörden. Zwar reguliert China die KI, z.B. durch Kontrolle der politsischen Linie, aber nach außen führt die Regierung keine Diskussion. 

Der Vorsprung der USA schwindet 

Noch haben die USA bei der KI-Entwicklung einen Vorsprung. Ein einseitiges Moratorium wäre ein Geschenk an Peking, denn der Abstand schwindet. Allerdings zielt der Vorschlag der KI-Unternehmen nur auf gemeinsame Sicherheitsstandards – erst am Ende würde ein Entwicklungsstopp stehen. Außerdem verlangen die Unternehmen schärfere Chipkontrollen, also kein Geschenk an China. 

China will beim Thema KI-Sicherheit mitbestimmen.

Die USA und China haben sich auf einen Kommunikationskanal für Zwischenfälle mit der KI vereinbart. China möchte bei der KI-Sicherheit mitreden. Für den Autor ist deshalb die größte GEfahrt nicht, dass Amerika bremst und China nicht. „Vielmehr liegt sie darin, dass Washington sich hinter China versteckt, um über Regeln gar nicht erst reden zu müssen.“

Künstliche Intelligenz: Big Tech will unser Vertrauen. Um damit Geld zu machen

Thomas Kirchner argumentiert in der Süddeutschen Zeitung, dass die Künstliche Intelligenz die menschliche Existenz gründlicher verändern könnte als jede Revolution vor. Statt sie den Schöpfern zu überlassen, sollen die Philosophen und Ethiker ran. 

Umwälzungen der Arbeitswelt 

Die Umwälzungen betreffen vor allem die Arbeitswelt. Millionen Jobs könntenverschwinden oder völlig anders sein. Betroffen sein werden auch anspruchsvolle Berufe in Banken, Softwarefirmen oder Kanzleien. Unsicher bleibt, ob und wann neue Jobs entstehen. Der Autor vermutet eher, dass KI-Agenten mit anderen KI-Agenten agieren. Wenn die Sozialversicherungen nicht mehr durch die Beschäftigten finanziert werden kann, könnte der Staatsfonds von Norwegen ein Vorbild sein. Die Einnahmen aus Öl und Gas gibt der Fons an die Bürger weiter. 

Kommt die Superintelligenz?

Die Künstliche Intelligenz verändert die Kriegsführung und bietet Möglichkeiten, Menschen zu überwachsen und zu manipulieren. Die Techunternehmen entwickeln ein neues Geschäftsmodell, das nicht mehr nur an Aufmerksamkeit und Zeit interessiert ist, sondern unser Vertrauen erobern und unsere Gefühle bestimmen will. Künstliche Intelligenz beschleunigt und erweitert das Denken ungemein, ermöglicht unglaubliche Erkenntnisse und Fortschritte, erledigt Aufgaben in Millisekunden. Forscher sehen sogar die Superintelligenz kommen, die die Menschheit vernichten könnten. 

Neujustierung des Verhältnisses von Bürger und Staat 

Der Autor fordert, dass wir als Gesellschaft eine Antwort suchen, ohne in Panik zu verfallen. Das Verhältnis zwischen Bürger und Staat, Herrschenden und Beherrschten muss neu justiert werden. Es wird eine Art neuen Gesellschaftsvertrag brauchen, der KI als wesentlichen Faktor einbezieht. Nicht fragen sollte man die KI-Propheten wie Elon Musk, der in Deutschland aktiv die AfD unterstützt. 

Was ist das oder soll das sein: Mensch sein?

Nach Ansicht des Autors sollen Philosophen und Ethiker und nicht die KI-Propheten um Rat gefragt werden, sie kennen sich mit Menschen aus, sie könnten die Diskussion anleiten, wie wir arbeiten und leben wollen. Die Debatte wird schwierig. Es ist ausgeschlossen, die Möglichkeiten durch die Technik nicht zu nutzen. Es bleibt nur Grenzen zu setzen und zu regulieren. Dabei gilt es zwei Entwicklungen zu beachten. Einerseits die KI-Industrie selbst, die Billionen investiert, andererseits die Rivalität zwischen den USA und China. Um einen Crash zu verhindern, müssen Regeln geschaffen werden – für alle Staaten. 

Größte Herausforderung der Menschheit 

Während das Atomzeitalter nach Hiroshima klar erkennbar war, ist es mit KI anders. Es wächst etwas heran, das zur größten Herausforderung werden könnte, der sich die Menschheit je gegenübersah. Höchste Zeit, sich ernsthaft damit auseinanderzusetzen.

Der neue KI-Kapitalismus

In einer Titelgeschichte im SPIEGEL beschreiben Simon Book und Nicola Abe die Bedrohungen durch künstliche Intelligenz. Die künstliche Intelligenz stellt den Kapitalismus infrage: Die Reichen werden reicher, Jobs für die Mittelschicht verschwinden. Das System droht an sein Ende zu kommen.

Der Mensch geht, die Maschine übernimmt

Im Artikel wird ein Manager von Meta zitiert, der sagt, dass er sein eigenes Karriereende herbeiprogrammiert hat. Neben Meta-Chef Zuckerberg haben auch andere Techunternehmen vor, Jobs abzubauen und durch künstliche Intelligenz zu ersetzen. Auch in anderen Branchen übernehmen KI-Programme die Arbeit – vom Programmieren, über die Bewertung von Röntgenbildern hin zur Shoppingtour. Untersuchungen prophezeien einen massiven Stellenabbau. 

„Dieses Mal erschaffen wir Akteure, nicht Werkzeuge“

Für Demis Hassabis, den Direktor des KI-Labors von Google, wird die KI-Revolution bedeutsamer als die industrielle: „Es verläuft schneller und größer, dieses Mal erschaffen wir Akteure und nicht Werkzeuge.“
Schon Karl Marx beschrieb die menschliche Arbeit als zentrales Element unseres Wirtschaftssystems. Der Kapitalist kauft neben Produktionsmitteln humane Arbeitskraft und macht Profit. In den folgenden Jahrzehnten konnte auch die Arbeiter aufsteigen, es entstand eine Mittelschicht. Dieses Wohlstandsversprechen verändert sich: Während die Mittelschicht um ihre Existenz bangt, häufen die Tech-Oligarchen ungeheure Vermögen an.

Zeigt die KI-Revolution also, dass Marx doch recht hatte?

Marx argumentierte, dass der Kapitalismus sein Ende in sich hat. Da Kapitalisten immer produktiver werden müssen, drücken die Kosten und verdrängen lebendige Arbeit. Wenn sich das Kapital von der Arbeit völlig entkoppelt, würde der Mensch überflüssig und die Spaltung zwischen Arm und Reich unendlich. Angesichts der aktuellen Entwicklung folgern die Autoren: „Es klingt, als hätte Marx schon 1867 das 21. Jahrhundert vorhergesehen.“ Aber auch die KI-Propheten waren, so fordert OpenAI-Chef Sam Altman, dass am Ende der Wohlstand aller zunehmen müsse. 

Schneller und diffuser Strukturwandel 

Die Unsicherheit weltweit ist groß – quer durch alle Altersklassen. Ökonomen bezweifeln, ob bei der KI-Revolution die Erfahrungen der letzten Revolutionen eintreten, nämlich, dass verlorene Arbeitsplätze durch neue Tätigkeiten und Berufsfelder ausgeglichen werden können. Dieser Strukturwandel verläuft schneller und diffuser als frühere. KI ist eine Maschine, die stets dazulernt, ihr Ziel ohne Anleitung erreichen und sogar eigenständig entscheiden kann. 

Gen Z als verlorene Generation? 

Galt früher Bildung als sichere Eintrittskarte in ein materiell unbeschwertes Leben, gilt dies heute nur noch bedingt. Die Gen Z – die heute 14- bis 30-Jährigen – könnten betroffen sein. Erst Corona, anschließend Inflation und Wirtschaftskrise, über allem die Klimakatastrophe, nun KI. Gleichzeitig träumen Musk und Co. von einem Schlaraffenland, in dem niemand mehr arbeiten muss, weil alle Güter und Dienstleistungen im Überfluss vorhanden sind. Deren unfassbarer Reichtum zeigt auch die zunehmende Ungleichheit. 

Techunternehmen werden immer mächtiger 

Elon Musk war kurzzeitig Billionär und erreicht über seine Plattform X 560 Millionen Menschen, Nvida-Chef Huang bringt es auf 180 Mrd. Dollar, Meta-Gründer Zuckerberg auf rund 200 Mrd., außerdem kontrolliert sein Konzern die Bildschirme von 3,6 Milliarden Menschen. Mit dem Geld kommt auch politischer Einfluss, wie Musk eindrucksvoll bewies. Der Historiker Harari prophezeit einen Machtkampf zwischen Techunternehmen und Regierungen, den die Techunternehmen gewinnen könnten. 

Gegenbewegungen 

Thomas Piketty beschreibt in seinem Werk, dass die Rendite auf Kapital oft höher sind als das Wirtschaftswachstum: In der Konsequenz wird derjenige, der Kapital besitzt, schneller reich als derjenige, der nur arbeitet. Er musste Ungenauigkeiten in seinen Studien einräumen, die Ungleichheit wird aber weltweit zum Problem. Eine Gegenbewegung nennt sich „Neo-Ludditen“ nach dem Vorbild englischer Textilarbeiter, die sich gegen die Industrialisierung wehren wollten. Die „Neo-Ludditen“ verweigern soziale Medien und KI und nutzen „dumme“ Handys, mit denen nur telefoniert werden kann. Amerikanische Sicherheitsbehörden warnen vor »antitechnologischem gewalttätigem Extremismus«. 

Ein Update für das bestehende Wirtschafts- und Gesellschaftssystem 

Im Artikel werden zahlreiche Ideen vorgestellt, wie auf die Entwicklung reagiert werden sollte. 

• OpenAI-Chef Altman schwebt eine Robotersteuer vor, Elon Musk eine Art universelles Grundeinkommen. 
• US-Senator Bernie Sanders will das KI-Kapital verstaatlichen, Präsident Trump immerhin einen kleinen Teil an die Öffentlichkeit übertragen. 
• Massive Steuern für hohe Vermögen und Einkommen schlägt Thomas Piketty und das World Inequality Lap vor 
• Niclas Bergruen, ein deutsch-amerikanischer Milliardär, der kurzeitig Karstadt retten wollte, will den Kapitalismus umbauen, sodass jeder vom Gewinnen profitieren kann. Entweder über einen Fonds, in den die Unternehmen einzahlen oder einen Sparplan, der für Bürger gefordert wird. Gebt den Leuten Anteile an ihrer Wirtschaft. Lasst sie Teil ihrer eigenen Zukunft sein.«

Künstliche Intelligenz einhegen

Die Autoren vermuten, dass Karl Marx seine Freude daran gehabt hätte, dass der Kapitalismus durch sozialistische Maßnahmen gerettet werden soll. Die Argumente für Regeln betreffen aber nicht nur die Verteilung des Geldes. Nachdem sich ein KI-Agent des Unternehmens OpenAI selbständig gemacht hat, fordert sogar Donald Trump, künstliche Intelligenz eingehegt werden muss. Die Techunternehmen wehren sich mit massiven Kampagnen gegen diese Bestrebungen und machen Druck auf Kandidaten, die strengere Regeln fordern. 

Kommt es 2028 zur Machtprobe?

Bei den US-Präsidentschaftswahl 2028 könnte es zur ersten Machtprobe kommen: Tech-Oligarchie versus Demokratie. Der Historiker Sven Beckert hat zwei Elemente des Kapitalismus herausgearbeitet. Kapitalismus ist keine natürliche Ordnung, sondern eine historische Entwicklung. Außerdem ist er undogmatisch. Der Kapitalismus braucht also nicht unbedingt die Demokratie. Die Demokratie braucht aber nicht zwingend den Kapitalismus. 
Für Beckert ist offen, was kommt, dringend erforderlich hält aber auch er mehr Umverteilung. „Ein Zurück gebe es in der Geschichte per se nie: auch nicht in die Zeit, als künstliche Intelligenz nur die Idee einiger Informatiker war. Und nicht die neue gesellschaftliche und wirtschaftliche Realität.“

Dunkler Sozialismus: Überleben in den Ruinen des Kapitalismus

In den nächsten Beiträgen meines Blogs berichte ich über verschiedene Analysen zu den politischen und wirtschaftlichen Folgen des Einsatzes von Künstlicher Intelligenz. 

Dunkler Sozialismus: Überleben in den Ruinen des Kapitalismus

Kohei Saito wählte für seinen Artikel im SPIEGEL https://www.spiegel.de/wirtschaft/elon-musk-xi-jinping-warum-die-gesellschaft-am-ende-des-fortschritts-steht-a-4224ab92-0673-4983-9fea-aec55798ebe3?context=issue ungewöhnliche Begriffe, wenn er vom „dunklen Sozialismus“ und den „Ruinen des Kapitalismus spricht. Seine These, dass die Kontrolle über digitale Infrastruktur zu einem geopolitischen Druckmittel wird, ist aber überzeugend. 

Staaten werden zu Instrumenten der Techkonzerne

Nach massivem Druck durch die Regierung kappten amerikanische Techunternehmen Richtern des Internationalen Strafgerichtshof die digitale Infrastruktur: Kreditkarten, E-Mail, Uber. Die Techkonzerne werden sich aber nicht damit abfinden, nur Werkzeuge zu sein. Elon Musk konnte in seiner kurzen Zeit an der Regierung mitwirken, die Kontrollinstanzen des Staates zu schwächen. Tesla und SpaceX konnte er nur mithilfe öffentlicher Aufträge ausbauen, jetzt profitiert er von Deregulierung und Privatisierung. 

Techoligarchen bekämpfen die Demokratie 

Neben Musk bekämpfen weitere Akteure die Demokratie. Der einflussreiche Blogger Curtis Yarvin sieht Demokratie und Rechtsstaatlichkeit als Gründe für den Niedergang. Veränderungen erhofft er sich durch einen Monarch nach Vorbild der Techgiganten. Alexander Karp – Gründer von Palantier -  fordert eine „technologische Republik“. Der einflussreiche Investor Peter Thiel hält Freiheit und Demokratie nicht für miteinander vereinbar. 

Dunkle Aufklärung 

Der Autor sieht hier eine „merkwürdige“ Annäherung an linke Neoliberalismuskritik. Schon 2012 hatte David Graeber kritisiert, dass die Technologien nur zu Bullshit-Jobs und mehr Konsum führen. Die Folgerung der Rechten ist aber eine andere: Staat und Techkonzerne müssen noch enger zusammenarbeiten. Diese „dunkle Aufklärung“ trifft den wunden Punkt des Liberalismus als Fortschrittserzählung. Die Hoffnung, dass sich mit dem Wachstum Vielfalt und Demokratie ausbreiten, gilt nicht mehr. Klimawandel, Angst um Wohnraum, medizinische Versorgung und Bildung belasten die Menschen. 

Muskismus und Xiismus 

Musk und Konsorten will den Zusammenbruch nicht verhindern, sondern im Interesse einer privilegierten Minderheit verwalten. An die Stelle universaler Sicherheit tritt eine Politik der Selektion: Überwachung, militarisierte Grenzen und algorithmische Kontrolle entscheiden darüber, wessen Leben geschützt und wer dem sozialen und ökologischen Chaos überlassen wird.
XI geht in China einen anderen Weg. Er verschärft die Kontrolle über die Techkonzerne. Sie spielen eine wichtige Rolle beim Ausbau der Infrastruktur, beherrschen aber nicht den Staat. Investitionen überlasst China weder dem Markt noch Milliardären. 

Demokratischer Gegenentwurf 

Der Autor hält weder die von Thiel und Musk angestrebten Techmonarchien noch die mit Unterdrückung verbundenen chinesischen Sozialismus für die richtige Lösung. Er fordert einen demokratischen Gegenentwurf, bei dem Energie, Wohnen, Verkehr, Ernährung, Gesundheitsversorgung und digitale Infrastruktur als öffentliche oder gemeinschaftliche Güter verwaltet und gesellschaftlicher Kontrolle unterstellt werden. 
Dies bedeutet keine Rückkehr zum alten Fortschrittsoptimismus. Dieser „dunkle Sozialismus“ fragt, wie die Infrastruktur umgebaut werden muss, damit ein gutes Leben für alle innerhalb der planetaren Grenzen möglich bleibt. Aus der Anerkennung der dunklen Wirklichkeit können „Ideen und Praktiken hervorgehen, die eine neue Gesellschaft entwerfen. Genau das bedeutet es, in den Ruinen des Kapitalismus zu überleben.“

Der Einfluss der Techgiganten 

Zum Einfluss der Techgiganten biete ich ein Seminar, das ich regelmäßig anpassen muss, da Einfluss und Wert immer gigantischer werden. Hier finden Sie auch Angebote zur Frage von Wachstum und des weltweiten Handels. Die Techgiganten beeinflussen auch die Politik: In der Rubrik Internationale Politik biete ich Seminare zu den USA und dem Recht des Stärkeren.

Die Arbeit ist den Menschen nie ausgegangen

In einem Beitrag in der ZEIT bezweifelt Mark Schieritz, dass künstliche Intelligenz uns die Jobs wegnehmen wird – die Arbeit ist den Menschen nie ausgegangen. 

Mehr Arbeit trotz technologischem Fortschritt 

Der berühmte Wirtschaftswissenschaftler John Keynes prognostizierte 1930, dass in 100 Jahren nur noch 15 Stunden Arbeitsstunden notwendig sind, um den Wohlstand zu sichern. Schon jetzt ist klar, dass es anders kommt, obwohl der technologische Fortschritt der Menschheit tatsächlich viel Arbeit abgenommen hat. Ein Grund: Der Mensch wollte mehr: Die Bedürfnisse wachsen mit den Möglichkeiten. 

Arbeitszeit nicht gesunken 

Der Autor zeigt dies am Beispiel einer Waschmaschine. Die Einführung der Waschmaschine reduzierte den Zeitaufwand um 90 % - es war nicht mehr notwendig, da die aufwändige Wäsche per Hand nicht nötig wäre. Die Folge war, dass Menschen nun viel öfter die Kleidung wechselten. Trotz zahlreicher Innovationen ist die Arbeitszeit im Haushalt kaum gesunken. Das lässt sich auch auf ganze Volkswirtschaften übertragen. Keynes unterschätzte den Produktivitätszuwachs sogar, dennoch arbeiten die Briten rund 30 Stunden statt der errechneten 15. 

KI nicht anderes als ein Webstuhl 

Auch andere Innovationen wie ein Pflug oder ein Webstuhl haben die Produktivität erhöht, so wird es auch bei der KI sein. Ob der Produktivitätsfortschritt zu weniger Arbeitszeit führt, hängt davon ab, wie viel Output die Menschen wollen. Möglicherweise steigen die Bedürfnisse sogar schneller. Die Erwartung vom Schlaraffenland werden nicht eintreten, denn die KI müsste Menschen vollständig erstehen können. Aber auch KI verbraucht Ressourcen – Energie, Wasser – manchmal mehr als der Mensch. Eine relativ einfache Tätigkeit wie die Kindererziehung wäre mit einem erheblichen Aufwand verbinden. 

Bisherige Umwälzungen haben Menschen nicht arbeitslos gemacht 

In der Vergangenheit haben Umwälzungen die Menschen nicht arbeitslos gemacht. Waren 1700 noch die Hälfte der Briten in der Landwirtschaft tätig, ist dies heute nur noch ein kleiner Anteil. Ähnliches gilt für die industrielle Revolution. Anfangs waren die Bedingungen in den Fabriken katastrophal – diese wurden durch steigende Lähne aber besser. Die industrielle Revolution ging mit einer historisch einmaligen Anhäufung von materiellem Wohlstand einher, die bis heute anhält. Die Produktivitätsfortschritte steigerten die Massenkaufkraft und die Konsumwünsche.

Kaufkraft ist entscheidend 

Autos kaufen keine Autos, deshalb muss die Kaufkraft der Menschen gesichert werden. Dies muss nicht zwingend durch geleitstete Arbeit geschehen, denkbar ist ein staatliches Einkommen, das beispielsweise durch die Nutzung von KI finanziert wird. Der Produktivitätsfortschritt muss konsumwirksam organisiert werden. Es ist nicht garantiert, dass es so kommt, aber die Eisenbahnen waren für die Menschen im 19. Jahrhundert genauso weltverändern wie die Sprachmodelle jetzt. 

Grundlegende Veränderungen – die Arbeit wird aber nicht ausgehen 

Die künstliche Intelligenz wird das menschliche Zusammenleben grundlegend verändern. Viele Berufszweige könnten der Automatisierung zum Opfer fallen. Sie wird auch gesellschaftliche und politische Folgen haben – so könnte aber auch die Kriegsführung verändert werden. Dennoch bleibt als Fazit: Die Arbeit ist der Menschheit bisher noch nie ausgegangen.

Wann ist ein KI-System vertrauenswürdig?

In einem Vortrag für VHS Wissen live referierte Ute Schmid über die Frage, wie vertrauenswürdig KI-Systeme sind. Schmid leitet den Lehrstuhl für Kognitive Systeme an der Uni Bamberg und ist Mitglied im bayerischen KI-Rat 

Vorrang menschlichen Handelns und menschlicher Aufsicht 

Sie sieht ihre Aufgabe darin, die Entwicklung und Herausforderungen der digitalen Transformation besser zu verstehen. Der KI-Rat will Grundlagen erarbeiten, um die diagonale Zukunft verantwortungsvoll zu gestalten. KI-Systeme können Menschen bei komplexen Entscheidungs- und Problemlösungsprozessen unterstützen. Sie erläuterte verschiedene technische und nicht-technische Kriterien, denen eines gemeinsam ist: "Vorrang menschlichen Handelns und de menschlichen Aufsicht". 

Eigene Erfahrungen und Kenntnisse notwendig 

Schmid betonte, dass eigene Erfahrungen und Kenntnisse im Umgang mit KI notwendig sind, auch um den unterschiedlichen Arten von Täuschungen zu erkennen: 
•    Interaktion: Kommuniziere ich mit einem Menschen oder einem KI-System 
•    Fehleinschätzung der Fähigkeiten von KI-Systeme 
•    Generierte Resultate: Es gibt fehlerhafte Inhalte 
•    Funktionsweise von KI-Systeme: Generierung vs. Systematische Suche nach vorhandenen Informationen 
Sie warnte für Übervertrauen und Untervertrauen, d.h. wegen eines Fehlers ist nicht alles andere auch falsch, andererseits ist nicht alles richtig und relevant. Kenntnisse sind notwendig, um die Ergebnisse richtig beurteilen zu können. Dies betrifft sowohl komplexe Themen wie Quantenphysik als auch einfache Aufgaben, die die KI möglichrtweise nicht lösen kann, z.B. das zuverlässige Erkennen von Bildern. 

Großes Potential, aber auch Probleme 

Die Referentin sieht in der Nutzung künstlicher Intelligenz ein großes Potential: bei Übersetzungen, Zusammenfassung, einfache Programmieraufgaben oder der Generierung von Ideen. 
Allerdings sieht sie auch Probleme: immer mehr Inhalte werden generativ erzeugt und sind wieder Grundlage für weitere Inhalte. Tendenziell wird die Sprache schlechter und verarmt. 

Systemen werden menschliche Eigenschaften zugeschrieben

Weitere Probleme sieht sie bei der Zuschreibung menschlicher Eigenschaften: 
KI-Systeme sind nicht immer korrekt und objektiv. Sie sind auch nicht „selbstlernend“, vielmehr werden die Daten von (schlecht bezahlten) Menschen klassifiziert und eingeordnet. Sie verfügen auch nur über Kenntnisse in einem Bereich: eine KI zu Schach kann keine anderen Probleme lösen. 

Zukunft Mensch und Künstliche Intelligenz 

Die Zukunft sieht sie in einem Zusammenspiel zwischen Menschrn und KI: Die Menschen bringen ihre Erfahrungen ein und prüfen die Inhalte. Fachkenntnisse sind dabei absolut notwendig, denn der Mensch muss in der Lage sein, die ausgegebenen Inhalte prüfen zu können. 
Sie befürchtet, dass Menschen ein fehlendes Qualitätsbewusstsein und anstatt auf eigene Motivation und Anstrengung auf schnelle Bedürfnisbefriedigung setzen. 

Verstehen statt Nachplappern 

Damit es zu einer guten Zusammenarbeit kommen kann, fordert Schmid die beste Förderung für alle und Bildungsgerechtigkeit. Gezielt sollte der Erwerb von Kompetenzen gefördert werden. 
Ziel Ist „Verstehen statt Nachplappern“: Dazu zählt sie Kompetenzen bei der Problemlösung und Bewertung sowie dem Erleben von Selbstwirksamkeit. 

Künstliche Intelligenz in meinen Seminaren 

Im Bereich Wirtschaft und Soziales biete ich ein Seminar zum Thema Künstliche Intelligenz. Dabei präsentiere ich auch einige Thesen der Autorin. 

Zwei Jahre ChatGPT - Weiß alles, halluziniert bloß manchmal

Nicolas Kilian schreibt in der ZEIT  über künstliche Intelligenz, die die Wirtschaft revolutionieren könnte. Ein Blick auf verschiedene Branchen zeigt, dass es aber noch einige Hindernisse gibt. 

Hohe Erwartungen und viel Geld

Amerikanische Tech-Bosse preisen die generative künstliche Intelligenz: Vergleichbar mit dem Internet oder gar Feuer und Elektrizität, die "Wohlstand und Reichtum bringen, wie sie die Welt noch nie gesehen hat". Entsprechend viel Geld wird investiert - allein in diesem Jahr investieren Meta, Microsoft, Alphabet und Amazon weit über 200 Milliarden Dollar, einen großen Teil davon in die Fortentwicklung von KI. Inzwischen werden Zweifel laut. Investoren haben Bedenken, ob die hohe Kosten gerechtfertigt sind und sehen die Gefahr einer Spekulationsblase.

Siemens spart Zeit

Siemens ist bereits 177 Jahre alt. KI wird eifrig getestet, lukrative Anwendungsfelder werden gesucht. Mit KI werden riesige Menschen firmeneigener Dateien besser nutzbar gemacht werden – Mitarbeiter können schneller auf Informationen zurückgreifen. Auch ein Programmier-Assistenz soll die Mitarbeiter effektiver machen.  Viele Unternehmen stehen aber noch am Anfang, besonders für kleinere Unternehmen sind die Ausgaben im Vergleich zum Ertrag enorm.

Ein Finanzdienstleister setzt auf Chatbots

Eine weitere Evolutionsstufe sind digitale Butler, die Nutzern ganze Arbeitsschritte abnehmen: Geschäftsreisen buchen, Termine vereinbaren, Bestellungen aufnehmen. Der Zahlungsdienstleister Klara bietet einen Vorgeschmack auf die Zukunft. Dort beantworten Chatbots bereits zwei Drittel der Kundenanfragen. Der Bot ist Tag und Nacht im Einsatz, spricht 35 Sprachen. Menschen werden nicht gänzlich verschwinden und müssen bei komplexeren Fällen eingreifen.

Eine Anwaltskanzlei ist vorsichtig mit KI

Anwaltskanzleien sind vorsichtiger. Obwohl es auch hier leistungsfähige Sprachmodelle gibt, wird der Chatbot bei A&O Shearman nur selten genutzt. Ein Grund: Eine verlässliche juristische Einschätzung kann die KI nicht reffen – noch nicht.
Eine juristische Frage könnten Fehler werden, denn die. Sprachmodelle geben manchmal Antworten, die überzeugend klingen, aber frei erfunden sind – die KI halluziniert. Die Systeme müssen überwacht und die Antworten häufig nachbearbeitet werden – das kostet Zeit. Erst wenn die Systeme zuverlässig genug seien, könne man damit ganze Prozesse automatisieren. Dennoch wäre es ein Fehler, nur auf die heutigen Fähigkeiten der Systeme zu blicken.

Die Volkswirtschaft profitiert später

Auf ganze Volkswirtschaft übertragen braucht es Geduld – und viel Geld. Ein Experte spricht von einer Basistechnologie, vergleichbar mit der Dampfmaschine, dem PC oder dem Internet. Es muss viel investiert werden, bevor sie überhaupt einen Mehrwert. Erst in einigen Jahren werden die Auswirkungen im Wirtschaftswachstum oder der Arbeitsproduktivität von Ländern zu sehen sein.
Die Wetten sind riskant. „Darauf, dass KI bald keine Fakten mehr erfindet. Dass die wirtschaftlich bedeutsamen Anwendungen schon kommen werden. Und dass KI nicht nur einzelne Branchen verändert, sondern gänzlich neue Wirtschaftszweige entstehen lässt.“

Undenkbares kann möglich werden

Aber es ist möglich. Wer hätte vor einigen Jahren gedacht, dass Geschäftsmodelle wie Google, Amazon oder Tiktok möglich sind. Sie gehören zu den wertvollsten unternehmen der Welt und finanzieren nun KI. Ein Unterschied zur Dotcom-Blase in den 2000er Jahren, als Kleinanleger den Hype finanzierten und viele Geld verloren.

Roboter, Künstliche Intelligenz und der Mensch

In einem tollen Vortrag für VHS Wissen live berichtete Michael Decker über „Roboter, Künstliche Intelligenz und der Mensch“

Technologiefolgenabschätzung

Michael Decker arbeitet für das Institut für Technikfolgenabschätzung und Systemanalyse. Sie forschen zu Nachhaltigkeit, Energie und Innovationsprozesse und bieten Politikberatung.  
Joseph Schumpeter nannte Innovationen „kreative Zerstörung“. Die Folgen können aus verschiedenen Perspektiven beschrieben werden, z.B. positiv oder negativ, beabsichtigt oder nicht-intendiert.

Künstliche Intelligenz in der Praxis

Decker nannte Beispiele für den Einsatz künstlicher Intelligenz. Die Beurteilung ist abhängig von persönlichen Vorlieben – wer gerne putzt hat keinen Nutzen von einem Staubsaugroboter. Mittlerweile gibt es viele Einsatzmöglichkeiten, die den Menschen weitgehend ersetzen können.
In der Arbeitswelt kann die Automatisierung zu Arbeitsplatzverlusten führen. Gleichzeitig entstehen neue Arbeitsplätze. Für Decker ist deshalb entscheidend, dass Beschäftigte in die Lage versetzt werden, den Wandel zu bewältigen.

Rechtliche und ethische Aspekte

Durch den Einsatz künstlicher Intelligenz werden sich Regeln verändern. Da die Roboter im Einsatz lernen, kann der Produzent keine Verantwortung mehr übernehmen.
Bei der ethischen Ersetzbarkeit unterschied der Referent zwischen „Verhalten“ und „Handeln“: Handeln setzt das Setzen eines Zwecks voraus. Damit ist auch Verantwortung verknüpft. Handeln setzt die Fähigkeit einer Person voraus, diese Handlung zu rechtfertigen. Die Fähigkeit über Gründe zu reden wird zum entscheidenden Kriterium für personale Autonomie. Für technische Systeme ist eine starke Autonomie nicht anstrebenswert. Um zu entscheiden, wie Roboter handeln sollen, wäre es wichtig zu entscheiden, was moralisches Handeln ist.

Darf mich die KI überraschen?

Am Beispiel des Schachspiels GO und einem autonomen Auto zeigte Decker eindrucksvoll die Unterschiede auf. Alpha Go wurde mit 30 Millionen Zügen menschlicher Züge trainiert und anschließend trausende Spiele gegen sich selbst gespielt. Dieses maschinelle Lernen überraschte Profis beider Seiten: Die KI-Experten waren überrascht über die kreativen Züge, die GO-Spieler hielten die Züge zunächst für Fehler und waren über die neue Spielweise verstört. Während Decker hier „Überraschungen“ akzeptieren kann, möchte er von anderen Produkten nicht überrascht werden, z.B. von einem autonomen Auto.

Widersprüchliche Ergebnisse im Gesundheitsbereich

Obwohl Roboter bereits in der Pflege eingesetzt werden, ist die Beurteilung hier eher skeptisch. Gute Pflege ist Interaktion. Sie erfordert Gefühle, Emotionen, Wissen und ist einzelfallbasiert, also eigentlich ein „Mismatch“. Anders sieht die Kooperation in anderen Bereichen aus. Bei der Diagnostik von Krankheiten kann KI den Ärzten helfen. Die Verantwortung muss aber beim Menschen bleiben.

Regeln möglich und nötig

Zum Abschluss seines Vortrags betonte Decker, dass Regeln möglich und nötig sind. Er begrüßte auch die Initiative der EU, Rahmenbedingungen zu setzen., Außerdem forderte er Analysen und Entscheidungen, die vom Kontext abhängig sind sowie Transparenz.

Was nach einem Jahr Chat-GPT-Hype bleibt

Jannis Brühl zieht in der Süddeutschen Zeitung eine kritische Bilanz des Chat-GPT-Hypes: Dieser löste Ängste und Träume aus – kann aber vor allem helfen, weniger Lebenszeit zu verplempern.

Die Maschinen sind wach

Am 30. November 2022 veröffentlichte Open AI den Chatbot Chat-GPT. Seitdem macht sich ein Gefühl breit: Die Maschinen sind wach.
Die Aufregung war groß: selten brachte eine Technologie in so kurzer Zeit so viele Hoffnungen, Ängste und auch Investitionen hervor. Aus Open AI wurde in kurzer Zeit ein 86 Milliarden-Dollar-Start-Up.

Kann stupide Büroarbeit ausgelagert werden?

Die Potentiale erscheinen enorm: Durch Chat-GPT können Routinearbeiten ausgelagert werden: Präsentationen, Tabellen und Rohversionen lassen sich durch kurze Kommandos erstellen.
Einige träumen von der Befreiung des Menschen vom Joch der Klick-Arbeit. Der Autor zweifelt aber, ob es den "vollautomatisierten Luxus-Kommunismus" inklusive staatlicher KI-Vollversorgung geben wird.

Chat-GPT liefert die Erzählung über die goldene Zukunft

Den Grund sieht er in den kommerziellen Interessen. Nachdem das Thema Kryptowährungen mitsamt absurden Kurse geplatzt ist, sehen Investoren in diesem Bereich die Erzählung und die Rendite, die es sonst nirgends gibt. ZU dieser Geschichte gehört auch die Erzählung, dass die Technologie ein Bewusstsein entwickeln könnte. Das ist Unsinn, aber aufregender „als von Wahrscheinlichkeitsrechnung mit enormer Rechenkraft zu sprechen, was KI passender beschreibt. Schließlich ist künstliche Intelligenz vor allem auch: eine verdammt gute Story.

Künstliche Intelligenz: Wie sie Wachstum und Jobs beeinflusst

Alexander Hagelüken beschreibt in einem Artikel in der Süddeutschen Zeitung, wie künstliche Intelligenz Wachstum und Jobs beeinflussen könnte. Löst die Technologie gesellschaftliche Probleme oder ist sie ein frauenfeindlicher Stellenkiller?

Der mögliche Boom

Die Potenziale scheinen gigantisch, Experten gehen von bis zu 2,6 Billionen Dollar aus - fast die jährliche Wirtschaftsleistung Großbritanniens. Am meisten profitierten Branchen wie Finanzen, Hightech und Biotech. "Geringere Arbeitskosten, neue Jobs und höhere Produktivität könnten die globale Wirtschaftsleistung substanziell steigern". Andere sind skeptisch, dennoch ist das Potential faszinierend, dass Inhalte ohne Zusatzkosten entstehen.
Moritz Schularick, Präsident des Instituts für Weltwirtschaft (IfW) befürchtet, dass Europa erneut abgehängt wird. Statt klassische Branchen zu subventionieren, fordert er mehr Geld für diese Zukunftstechnologie.

Der Flug zum Mond

Die USA pumpen viel Geld in Künstliche Intelligenz und hoffen auf einen Effekt wie beim Flug zum Mond. Sie soll bei vielen Großproblemen helfen, aber auch hier gibt es Nachteile. Der Aufstieg der Technologie ist in China mit zunehmender Überwachung verbindet. Auch andere Diktaturen könnten KI aus China zum ausspähen nutzen.

Die Jobs

Historisch brachten neue Technologien mehr neue Jobs als alte wegfallen. Und diesmal? Viele Bürojobs und an Informationsschaltern könnten überflüssig werden. Da Frauen in diesen Bereichen besonders vertreten sind, könnte die Technologie frauenfeindlich wirken. Ein Expertenbericht für die Bundesregierung sagt voraus, dass durch die Digitalisierung insgesamt bis 2040 genauso viele Stellen neu entstehen wie wegfallen. Die Herausforderung wäre dann vor allem, Beschäftigte so weiterzubilden, dass diese beim Wandel mithalten können.
Traditionell hat der technische Fortschritt vor allem gering qualifizierte Arbeit ersetzt. Diesmal dürften zum Beispiel auch Anwälte betroffen sein, Datenanalysten und Programmierer.

Die Ungleichheit

Eine weitere Befürchtung ist die Zunahme von Ungleichheit. Forscher raten, das Ganze nicht dem Markt zu überlassen. KI könnte Tätigkeiten verbessern - und dadurch Menschen produktiver macht.
Dies gilt auch für die Verteilung der Gewinne. Bei der industriellen Revolution dauerte es gut 100 Jahre, bis die Masse ihren Anteil am Wohlstand bekam - weil sie ihn sich über Gewerkschaften und linke Parteien erkämpfte.
Die Digitalisierung schaffte viele schlechtbezahlte Tätigkeiten wie Essenauslieferer. Erst der Mindestlohn setzte ein klares Zeichen. Experten fordern deshalb, dass auch bei der KI frühzeitig Gegengewichte geschaffen werden.

Willkommen im Exponentialzeitalter

In einem Beitrag in der Süddeutschen Zeitung fragt Helmut Martin-Jung, wie wir mir der rasenden Entwicklung der Technik Schritt halten können. Von Künstlicher Intelligenz bis zu Computerchips: die Technologie entwickelt sich gerade so schnell, dass der Mensch kaum mitkommt. Das ist faszinierend - und bedrohlich.

Rasend schnelle Entwicklung

Die Technik entwickelt sich rasend schnell, so z.B. die Transistoren auf Chips: Der Hauptchip eines aktuellen Smartphones rechnet Millionen Male schneller als der Computer, mit dem die Nasa die Mondlandung bewerkstelligte. Die weltweite Vernetzung entwickelte zudem schnellere Entwicklung, z.B. bei der Entwicklung von Corona-Impfstoffen oder Chat-GPT. Die von einem Modell künstlicher Intelligenz angetriebene Software beantwortet Fragen, schreibt Aufsätze, Computercode und sogar Gedichte, wenn auch (noch?) keine guten.

Technische Entwicklung bringt Quasimonopole hervor

Die Welt biegt ein auf eine Exponentialkurve. Einige Firmen wie Google, Apple oder Amazon haben die technische Revolution für ihr eigenes exponentielles Wachstum genutzt und sind nun Quasi-Monopolisten. Es kommt zum Netzwerkeffekt: Wenn ein Unternehmen groß genug ist, gehen alle dorthin, wo schon die meisten sind. Die Tendenz wird sich fortsetzen. Es geht immer weniger darum, selbst etwas zu produzieren oder zu betreiben. – Uber besitzt keine Taxis, Lieferando kocht kein Essen. Die Leistung der Plattformen besteht darin, ein möglichst gut funktionierendes System zur Vermittlung dieser Waren oder Dienstleistungen aufzubauen.

Menschen anhand der Daten überwachen

Diese Firmen verdienen nicht nur viel Geld, sie haben Daten über die Menschen, als die meisten ahnen. Die Nutzer haben nur die Wahl, die Dienste nicht zu nutzen oder Daten nicht preiszugeben. Sie treffen auch weitreichende Entscheidungen, so z.B. ob einer wie Donald Trump auf ihrer Plattform zündeln darf oder nicht. Kritiker nennen dies Überwachungskapitalismus, da er davon lebt, Menschen anhand ihrer Daten zu überwachen.

Die exponentielle Kluft überwinden

Das Unvermögen mit dieser Entwicklung umzugehen nennen Experten exponentielle Kluft. Für den Autor könnte weltweite Zusammenarbeit helfen, den Superkonzernen etwas entgegenzusetzen. Die EU versucht dies mit ihrer Gesetzgebung – vom Recht auf Vergessen hin zur Möglichkeit, dass Nutzer von WhatsApp Nachrichten an konkurrierende Dienste schicken können.
Abzuwarten ist dabei keine Option - die Kurve der technologischen Entwicklung steigt, und sie steigt immer schneller und schneller. Es ist höchste Zeit zu verstehen, was exponentielles Wachstum bedeutet.