Die neuseeländische Regierung möchte KI-Technologie in Klassenzimmern einsetzen, um jedem Schüler einen eigenen KI-Tutor zur Seite zu stellen. Während sich das Konzept weiterentwickelt, wirft es Fragen über seine möglichen Auswirkungen auf Lehrer, Lernende und ethische Überlegungen auf.

Die Einführung von KI als Unterrichtsmittel ist keine neue Idee. Die jüngsten Fortschritte haben jedoch die Diskussion über die Vorteile und Risiken neu entfacht. Das Hauptziel besteht darin, Zugang zu personalisiertem Lernen zu ermöglichen, aber wer stellt die Vertrauenswürdigkeit der Daten und die Fähigkeiten der KI sicher?

KI-Tutoren: Vorteile und Risiken

Ein KI-Tutor fungiert als Stellvertreter eines menschlichen Tutors und bietet Unterstützung durch „Scaffolding“ beim Lernen der Schüler. Der Begriff „Scaffolding“ bezieht sich auf die Lücke zwischen dem, was ein Lernender eigenständig tun kann, und dem, was er mit der Anleitung einer sachkundigeren Person erreichen kann. Dieser Ansatz ermöglicht es Studenten, von einem intelligenten System zu lernen, das ihnen helfen könnte, von ihren aktuellen Fähigkeiten zur nächsten Stufe der benötigten Unterstützung zu gelangen.

Theoretisch könnte ein KI-Tutor diese Rolle übernehmen, aber das birgt eine Reihe von Risiken in sich.

So beruht die Intelligenz des KI-Mentors auf Daten, mit denen er trainiert wurde. Daher hängt seine Zuverlässigkeit stark von der Genauigkeit und Fairness der Trainingsdaten ab. Wenn die Daten voreingenommen oder ungenau sind, kann dies zu fehlerhaften Entscheidungen führen, Stereotypen verstärken oder bestimmte Perspektiven unterbewerten.

Für indigene Völker kann dies ihre Datensouveränität verletzen und ihr kulturelles und geistiges Erbe missbrauchen. Dieser Missbrauch kann die Ungleichheit verstärken und die Rechte und Beiträge indigener Gemeinschaften aushöhlen.

Eine häufig vorgeschlagene Lösung für dieses Problem ist das Training von KI-Systemen anhand sorgfältig ausgewählter Daten. Diese Methode hat jedoch erhebliche Nachteile, da sie die Inhalte auf das beschränkt, was vom Anbieter ausgewählt und genehmigt wurde.

Künstliche Intelligenz ist heute in den Schulen weit verbreitet, so dass es wichtig ist, die Schüler auf eure Nutzung vorzubereiten. Anstatt sich nur auf bestimmte Tools zu konzentrieren, sollte der Schwerpunkt auf der Entwicklung von Technologiekompetenz im gesamten Bildungsbereich liegen.

Die Forschung widmet sich der Definition dieser Kompetenz und ihrer Rolle bei der Förderung des kritischen Denkens und des verantwortungsvollen Umgangs mit der Technologie, um sicherzustellen, dass die Technologie die menschlichen Lehrer unterstützt und nicht ersetzt.

Die Auswirkungen der übermäßigen Nutzung sozialer Medien durch junge Menschen auf die psychische Gesundheit haben bei Forschern und politischen Entscheidungsträgern an Aufmerksamkeit gewonnen.

Eine wichtige Stimme in dieser Diskussion, der U.S. Surgeon General Dr. Vivek Murthy, hat Gesundheitswarnungen auf Social Media-Plattformen gefordert, um die Nutzer vor den potenziellen Risiken zu warnen, insbesondere für jüngere Bevölkerungsgruppen.

Die Haltung des Surgeon General

Dr. Murthy äußerte sich besorgt über den Zusammenhang zwischen einer längeren Nutzung sozialer Medien und einer Zunahme von Angstzuständen und Depressionen bei Jugendlichen.

Er plädiert für Gesundheitswarnungen, ähnlich denen auf Tabakprodukten, und betont die Notwendigkeit von Vorsichtsmaßnahmen, während weitere Forschungen laufen, um diese Erkenntnisse genauer zu untersuchen.

Dr. Murthy wies auf beunruhigende Statistiken hin und stellte fest, dass amerikanische Teenager in der Regel etwa 4,8 Stunden pro Tag auf sozialen Medienplattformen verbringen.

Dieses Maß an Engagement wird mit einem fast doppelt so hohen Risiko für die Entwicklung psychischer Probleme in dieser Altersgruppe in Verbindung gebracht, was auf einen dringenden Bedarf an Interventionen hinweist.

Die Reaktion der medizinischen Gemeinschaft

Die von Dr. Murthy geäußerten Bedenken waren auch ein Schwerpunkt auf der Jahreshauptversammlung (AGM) der Organisation im April, wo sie mit großer Bedeutung aufgenommen wurden.

Prof. Matthew Sadlier, Vorsitzender des Beraterausschusses und beratender Psychiater, schloss sich diesen Worten an.

Als prominente Persönlichkeit in der medizinischen Gemeinschaft betonte Prof. Sadlier, wie wichtig es ist, diese Risiken zu erkennen und sich für Schutzmaßnahmen einzusetzen, während die laufende Forschung versucht, die vollen Auswirkungen der sozialen Medien auf die psychische Gesundheit junger Menschen zu klären.

Parallel dazu erörterte Professor Brendan Kelly, eine angesehene Persönlichkeit der Psychiatrie am Trinity College Dublin und beratender Psychiater am Tallaght University Hospital, die Notwendigkeit eines verantwortungsvollen Umgangs mit sozialen Medien.

Professor Kelly betonte das kritische Gleichgewicht zwischen Vorsicht und Anpassung, um junge Nutzer vor den Schäden eines übermäßigen digitalen Engagements zu bewahren, und empfahl einen moderateren Umgang mit sozialen Medien als Teil eines gesunden Lebensstils.

Mit Blick auf die Zukunft wird sowohl von Gesundheitsexperten als auch von politischen Entscheidungsträgern die Entwicklung strengerer Richtlinien und Aufklärungsprogramme gefordert, um die negativen Auswirkungen sozialer Medien auf Jugendliche zu mildern.

Künftige Initiativen könnten eine gründlichere Forschung, eine bessere Aufklärung der Nutzer über die Risiken für die psychische Gesundheit und möglicherweise neue Richtlinien umfassen, die einen gesünderen Umgang mit digitalen Plattformen fördern.

Da künstliche Intelligenz (KI) weiterhin verschiedene Branchen revolutioniert, sind ihre Auswirkungen auf den Journalismus zu einem Thema intensiver Debatten geworden. Eine Studie zeigt, dass die Öffentlichkeit der KI bei der Erstellung von Nachrichten aufgrund von Deepfake-Bedenken ambivalent gegenübersteht. Darüber hinaus wurden die Geschäftsmodelle und das grundlegende Vertrauen, das den unabhängigen Journalismus aufrechterhält, zusätzlich in Frage gestellt.

Es wurden Bedenken hinsichtlich der Verlässlichkeit von Informationen und der Verbreitung von Fehlinformationen geäußert, insbesondere in der Politik und bei Wahlen. Die Teilnehmer äußerten die Befürchtung, dass der weit verbreitete Einsatz von generativen KI-Technologien die Identifizierung von Fehlinformationen noch schwieriger machen könnte. In 47 Ländern äußerten 59% der Befragten die Sorge, echte von gefälschten Online-Inhalten unterscheiden zu können.

Öffentliche Wahrnehmung und KI im Journalismus

Im vergangenen Jahr haben Medienunternehmen ein ganzes Spektrum von KI-Lösungen eingeführt, die in unterschiedlichem Maße von Menschen kontrolliert werden. Diese Lösungen reichen von KI-generierten Zusammenfassungen und Illustrationen bis hin zu Artikeln, die von KI-Systemen verfasst wurden, und sogar von KI-generierten Nachrichtensprechern.

Während sich der Einsatz von künstlicher Intelligenz im Journalismus weiterentwickelt, müssen die Verleger die Haltung der Öffentlichkeit zu ihrer Einführung berücksichtigen. Die Reaktionen auf KI-generierte Nachrichteninhalte sind je nach Land und Thema unterschiedlich.

In Großbritannien hat die Besorgnis über die sensationslüsterne Medienberichterstattung über KI zu einer allgemein negativen Wahrnehmung dieser Technologien in der Nachrichtenproduktion geführt. Im Gegensatz dazu ist das US-Publikum aufgrund der führenden Rolle von US-Unternehmen in der KI-Entwicklung und der damit verbundenen Chancen für Arbeitsplätze und Wirtschaftswachstum tendenziell aufgeschlossener.

Die Akzeptanz des Einsatzes von KI hängt auch von der Ernsthaftigkeit des Themas ab, über das berichtet wird. Die Menschen fühlen sich bei KI-generierten Nachrichten zu Themen wie Politik und Kriminalität weniger wohl, während sie sich bei Sport- oder Unterhaltungsnachrichten wohler fühlen, wo Fehler in der Regel weniger schwerwiegende Folgen haben.

Studien zeigen auch, dass Personen, die ein höheres Vertrauen in Nachrichtenquellen haben, sich mit KI-Implementierungen wohler fühlen, bei denen menschliche Journalisten die Aufsicht führen, als Personen mit einem geringeren Vertrauen. Dies liegt daran, dass vertrauenswürdige Personen oft an die Fähigkeit der Verlage glauben, mit KI-Technologien verantwortungsvoll umzugehen.

Die Aufrechterhaltung der Transparenz und die Sicherstellung, dass das Publikum die Rolle der KI bei der Erstellung von Inhalten versteht, sind entscheidend für den Aufbau von Vertrauen und die Minimierung möglicher Rückwirkungen.

Der Einsatz von künstlicher Intelligenz (KI) im Journalismus ist ein Thema, das zunehmend Besorgnis erregt, wie eine aktuelle globale Studie zeigt. Laut dem Digital News Report des Reuters Institute for the Study of Journalism wächst das Unbehagen des Publikums hinsichtlich des Einflusses von KI auf die Nachrichtenproduktion und die Glaubwürdigkeit. Vor diesem Hintergrund müssen die Verlage überlegen, wie sie das Publikum von heute ansprechen und gleichzeitig das Vertrauen in eine Ära aufrechterhalten können, die von technologischen Umwälzungen geprägt ist.

Während einige potenzielle Vorteile wie Kosteneinsparungen und personalisierte Inhalte sehen, sorgen sich andere um die Genauigkeit und das Potenzial für Fehlinformationen.

Aus dem Bericht geht hervor, dass 59% der Befragten in 47 Ländern Bedenken äußern, was die Unterscheidung von echten und gefälschten Informationen im Internet angeht. Verlage müssen daher entscheiden, wann sie KI einsetzen und wie transparent sie ihre Beteiligung an der Erstellung von Inhalten offenlegen.

Die Studie zeigt auch, dass ein jüngeres Publikum sich für Nachrichten an Influencer in den sozialen Medien wendet, was die moderne Medienlandschaft noch komplexer macht.

Wie KI die Wissenschaft der Medien beeinflusst

Die Nachrichtenbranche wendet sich aus zwei wichtigen Gründen der KI zu: um kostensparende Aufgaben wie Transkription und Redaktion zu automatisieren und um Inhalte zu personalisieren, damit sie ein größeres Publikum ansprechen. Im vergangenen Jahr haben Medienunternehmen zunehmend KI-Lösungen eingesetzt, von KI-generierten Zusammenfassungen und Illustrationen bis hin zu von KI-Systemen verfassten Geschichten und sogar KI-gesteuerten Nachrichtenlesern, die in unterschiedlichem Maße von Menschen betreut werden.

Wie stehen die Zuschauer zu diesen Entwicklungen? Die Umfrage in 28 Märkten zeigt, dass sich die Befragten im Wesentlichen unwohl fühlen, wenn KI überwiegend Inhalte mit minimaler menschlicher Kontrolle erstellt. Im Gegensatz dazu sind die Befürchtungen geringer, wenn KI menschliche Journalisten unterstützt, z. B. beim Transkribieren von Interviews oder beim Zusammenfassen von Materialien für Recherchezwecke.

Die Befürchtungen hinsichtlich der Verlässlichkeit und des Vertrauens in die Inhalte sind weit verbreitet.

Nic Newman

Inmitten der kontinuierlichen Entwicklung der Medienbranche stellt die Anwendung von künstlicher Intelligenz im Journalismus ein vielschichtiges Dilemma für Verleger dar. Einerseits kann KI Vorteile wie Kostensenkungen und maßgeschneiderte Inhalte bringen, andererseits weckt sie Bedenken hinsichtlich der Vertrauenswürdigkeit und der möglichen Verbreitung von Falschinformationen.

Die Integration von künstlicher Intelligenz in die journalistischen Praktiken stellt für die Verleger einen heiklen Balanceakt dar. Sie müssen den Einsatz von KI transparent machen, die höchsten Genauigkeitsstandards einhalten und sorgfältig daran arbeiten, das Vertrauen des Publikums zu erhalten.

Nachdem Elon Musk Twitter, das jetzt X heißt, im Frühjahr 2022 gekauft hatte, nahm die Plattform umfangreiche Änderungen vor, um mit Fehlinformationen umzugehen. Sie entfernten viele Moderatoren, beendeten das System zur Markierung von Nutzern und führten Community Notes ein. Diese Crowdsourcing-Methode hat bei den Nutzern für Empörung gesorgt, wurde aber von der Wissenschaft für ihre Transparenz und Effektivität in wissenschaftlichen Fragen gelobt.

Great work by the Notes team! https://t.co/8UgK4CSZEI

— Elon Musk (@elonmusk) May 23, 2024

Der Verhaltenswissenschaftler John Ayers von der UC San Diego leitete eine Studie, die den Erfolg von Community Notes bei wissenschaftlichen Themen belegt. Allerdings machen sich Forscher im Bereich der sozialen Medien immer noch Sorgen über Hassreden und Aufforderungen zur Gewalt. Im Jahr 2023 wird die Untersuchung dieser Themen durch die hohen Kosten der Daten für die Forschung weiter erschwert.

Die Macht des Crowdsourcing

Ayers betonte, dass die Daten von X’s Community Notes zugänglich sind, was sie für die Untersuchung von Sachfragen nützlich macht. Sozialwissenschaftler unterstützen Crowdsourcing für Wissenschaft und Gesundheit und zeigen damit die Macht der kollektiven Intelligenz. Die Forschung zeigt, dass die Überprüfung von Fakten durch die Crowd bei der Bewertung von Nachrichten mit der Genauigkeit von Profis mithalten kann.

In einer Studie im Journal of the American Medical Association wurde die Wirksamkeit von Community Notes anhand von 205 COVID-19-Impfstoffnotizen getestet. Dabei wurde eine Genauigkeit von 96 % und eine Qualität der Quellen von 87 % festgestellt.

Mit Community Notes können Freiwillige irreführende Beiträge markieren und korrigierende Kommentare mit wissenschaftlichen oder medialen Links hinzufügen. Die Nutzer stimmen über den Wert der Notizen ab, ähnlich wie bei Reddit. Dieses System fördert informierte Online-Diskussionen, indem es Informationen kollektiv verifiziert.

Das alte System arbeitete mit anonymen Faktenprüfern, die Beiträge entfernen und Nutzer sperren konnten, was zu Debatten über die Autonomie und das Vertrauen der Nutzer führte. Die Moderatoren wurden auch für ihre langsamen Reaktionen auf hasserfüllte oder gewalttätige Inhalte kritisiert.

Community Notes ist zwar nicht perfekt, scheint aber genau zu sein. Ayers stellte fest, dass nur einige wenige irreführende Beiträge markiert wurden, die sich jedoch stark verbreiteten. Der Psychologe Sacha Altay, der an der Untersuchung nicht beteiligt war, betonte die Wirksamkeit der kollektiven Intelligenz bei der Vorhersage und Bewertung von Informationen, wenn genügend Menschen daran teilnehmen.

Öffentliche Wahrnehmung und politische Voreingenommenheit

Die öffentliche Wahrnehmung von Fehlinformationen wird oft durch politische Vorurteile und Empörung verzerrt. Eine Studie der Universität Oxford ergab, dass Menschen Fehlinformationen für eine Bedrohung halten, weil sie andere für leichtgläubig halten, nicht sich selbst. Während der Pandemie wurden viele subjektive Äußerungen als Fehlinformationen eingestuft, obwohl es sich um Minderheitsmeinungen handelte.

Das alte Zensursystem von Twitter ging davon aus, dass Fehlinformationen zu schlechten Entscheidungen führen. Mangelndes Vertrauen in die Gesundheitsbehörden könnte jedoch dazu führen, dass die Menschen Randquellen aufsuchen. Zensur kann das Misstrauen verschlimmern, indem sie die Diskussion im Keim erstickt.

Sowohl Konservative als auch Liberale sollten Systeme unterstützen, die von blinden Annahmen und vorschnellen Urteilen abhalten und eine offene Diskussion und gemeinsame Problemlösung fördern. Trotz der Kontroverse um Musk und der jüngsten Änderungen auf X ist Community Notes ein Schritt nach vorn bei der Förderung von Transparenz und informiertem Dialog.

Die Medien sind ein mächtiger Einflussfaktor, der das öffentliche Verständnis kritischer Themen wie Krieg, Wirtschaft, Klimawandel und technologische Fortschritte maßgeblich prägt. Die Dringlichkeit des Themas wird jedoch durch eine neue Studie von RMIT’s Innovation Catalyst unterstrichen, die erhebliche Lücken in der Berichterstattung über das finanzielle Wohlergehen australischer Nachrichten aufzeigt, insbesondere für Frauen und Menschen in finanziellen Notlagen.

Wichtige Demografien bleiben zurück

Eine umfassende Analyse von 114.739 Artikeln aus der Datenbank von Dow Jones hat gezeigt, dass die finanziellen Herausforderungen, mit denen große Teile der Bevölkerung konfrontiert sind, in den Medien kaum beachtet werden. Obwohl finanzielle Stabilität für jeden wichtig ist, konzentriert sich die Medienberichterstattung unverhältnismäßig stark auf Gutverdiener und vernachlässigt diejenigen, die am meisten Beratung und Unterstützung benötigen.

Unerwähnte Gerechtigkeitsaspekte

Die Untersuchung ergab auch, dass über die besonderen Probleme von Frauen und finanziell benachteiligten Personen nicht berichtet wird. Diese Probleme überschneiden sich oft mit anderen kritischen Themen wie dem Klimawandel, was die finanzielle Belastung noch weiter verschärft. So treffen die steigenden Energiekosten im Zusammenhang mit dem Klimawandel bei Hitzewellen und extremen Wetterereignissen die einkommensschwächeren Australier unverhältnismäßig stark. Doch dieser Zusammenhang wird in den Medienberichten nur selten thematisiert.

Verlagerter Fokus und verpasste Chancen

Die Studie zeigt interessante Trends in der Finanzberichterstattung auf. Während früher die Anlageberatung die Finanznachrichten dominierte, wurde sie von der Berichterstattung über Immobilien überholt, die im Mai 2022 mit 175 Artikeln pro Monat ihren Höhepunkt erreichte. Diese Verschiebung des Schwerpunkts lässt wenig Raum für andere wichtige Themen wie Altersvorsorge und Gleichstellung am Arbeitsplatz, die kaum Beachtung fanden.

Die Rolle der Medien beim Bauen

Die Medien haben eine Verantwortung, genaue und umfassende Informationen zu liefern, insbesondere in Zeiten des institutionellen Misstrauens, wie z.B. bei den Bankenskandalen der 2010er Jahre. Indem sie die finanziellen Herausforderungen ansprechen, mit denen alle Australier konfrontiert sind, einschließlich Frauen und Menschen in finanziellen Schwierigkeiten, können die Medien mehr Vertrauen und Verständnis schaffen. Darüber hinaus kann die Aufmerksamkeit für die besonderen Erfahrungen marginalisierter Gemeinschaften die Verbindung zwischen diesen Gruppen und den dominanten Medien erleichtern.

Zusammenfassend lässt sich sagen, dass die Medien zwar eine wichtige Rolle bei der Gestaltung des öffentlichen Diskurses spielen, dass aber eindeutig ein größeres Augenmerk auf das finanzielle Wohlergehen aller Australier gelegt werden muss. Durch die Ausweitung der Berichterstattung auf unterrepräsentierte Bevölkerungsgruppen und ihre besonderen Herausforderungen haben die Medien das Potenzial, den Einzelnen zu stärken und eine gerechtere und finanziell abgesicherte Gesellschaft zu fördern und positive Veränderungen anzuregen.