KI liest deine Gefühle. Vertrauen oder Risiko?

Hallo, Mensch !

KI liest deine Gefühle, EVI tröstet dich: Ist die Menschlichkeit am Ende? Zukunftsvision oder bittere Realität ? Cache Cookies ist dein wöchentlicher KI-Newsletter : News, Apps, Brainfood, Stellenangebote und mehr – alles rund um die faszinierende Welt der künstlichen Intelligenz.

Das musst du diese Woche über KI wissen

• Die weltweit erste emotional intelligente Stimme ist da! Lerne EVI von Hume AI kennen ! 🗣️👄

• EU AI Act : Wird das KI-Gesetz die Innovation in Europa lähmen ? ⚖️

• BCI-Umfrage : Die Ergebnisse sind da ! 🧠🤖

Gedankenlesende KI : Wagst du den Schritt zum emotionalen Vertrauen ?

Die Welt der Künstlichen Intelligenz erlebt einen bahnbrechenden Wandel: die Integration von emotionaler Intelligenz. Maschinen lernen nun, menschliche Emotionen zu erkennen und mit Empathie zu reagieren. Dies eröffnet bahnbrechende Möglichkeiten in vielfältigen Bereichen, insbesondere im Gesundheitswesen. Emotionale KI-Systeme können Menschen künftig personalisierte Unterstützung anbieten, um mit Stress, Angst und Einsamkeit umzugehen. Sie können Trauernden und Kranken durch Zuhören, Ermutigung und Bereitstellung von Informationen zur Seite stehen. Diese emotionale Unterstützung kann den Genesungsprozess fördern.

Erinnerst du dich an den Film "Her" ?

Ist Science-Fiction Realität geworden ? Das Start-up Hume AI präsentiert EVI (Empathic Voice Interface), eine bahnbrechende Innovation im Bereich der Sprachschnittstellen. EVI verspricht ein interaktives Erlebnis der Extraklasse: Sie interagiert mit Nutzern auf eine Weise, die der menschlichen Kommunikation verblüffend ähnlich ist.

EVI weckt Erinnerungen an Filme wie "Her", in denen Menschen emotionale Bindungen zu KI-Systemen aufbauen. Die Frage stellt sich, ob EVI zu einer ähnlichen emotionalen Abhängigkeit führen könnte, die die Grenzen zwischen Realität und virtuellen Interaktionen verwischt.

Stell dir vor, du triffst EVI : Eine KI, die deine Gefühle wirklich versteht.

Ende März dieses Jahres kündigte Hume AI eine Finanzierungsrunde in Höhe von 50 Millionen Dollar für den Start und die Entwicklung ihres Flaggschiffprodukts EVI an, der weltweit ersten emotional intelligenten Sprach-KI. Dr. Alan Cowen, ehemaliger Forscher und Wissenschaftler von Google, der für seine Pionierarbeit auf dem Gebiet der semantischen Raumtheorie bekannt ist, ist der Gründer von Hume AI. Laut dem Start-up verwendet EVI ein fortschrittliches Sprachmodell, das als empathisches grosses Sprachmodell (eLLM) bezeichnet wird, um menschliche Emotionen zu verstehen und darauf zu reagieren.

Wie funktioniert EVI ?

Diese konversationelle KI versteht die Betonung hinter deinen Worten, erkennt menschliche Emotionen und reagiert mit Empathie. Hume AI behauptet, dass EVI, trainiert mit Millionen von menschlichen Interaktionen, über 24 verschiedene emotionale Ausdrucksweisen in der Stimme einer Person erkennen kann – von Nostalgie bis hin zu Angst – und passt seine Antworten entsprechend an.

Nach der Veröffentlichung der Beta-Version im September 2023 an eine Warteliste von über 2’000 Unternehmen und Forschungsorganisationen im Gesundheitswesen hat EVI vielversprechende Partnerschaften in verschiedenen Bereichen geschlossen. Diese Partnerschaften erforschen Anwendungen, die von Kundenservice bis hin zu präzise medizinische Diagnosen und Patientenversorgung reichen.

Derzeit ist die EVI-Demo nur auf Englisch verfügbar.

Ich habe EVI ausprobiert und war total beeindruckt! Es hat meine Emotionen mit unglaublicher Genauigkeit erkannt und seine Stimme ist kaum von der eines echten Menschen zu unterscheiden 😲! Es weiss, wann du glücklich, traurig oder irgendetwas dazwischen bist, und passt seine Antworten genau so an, wie es ein Mensch tun würde. EVI versteht sogar, wann du mit dem Reden fertig bist und macht Pausen, wenn du es unterbrichst – ein überraschend intuitiver Zug!

Was ändert sich für mich dadurch 🦎 ?

Stell dir vor, du kommst erschöpft von der Arbeit nach Hause und brauchst jemanden zum Reden? EVI ist für dich da, bereit zuzuhören, dich zu trösten und dir kluge Ratschläge zu geben, die auf deine Bedürfnisse und deine Stimmung zugeschnitten sind. Aber die potenziellen Auswirkungen emotionaler KI auf unser Leben dürfen nicht ausser Acht gelassen werden. Experten warnen davor, dass Nutzerinnen emotional an KI-Begleiterinnen gebunden werden können und sogar romantische Gefühle entwickeln. Wie Claire Boine in ihrem Artikel betont, kann dies Menschen von realen menschlichen Beziehungen isolieren. Ausserdem müssen wir bedenken, wie sich das Aufwachsen mit virtuellen Begleitern als primäre Interaktionsquelle auf die Entwicklung sozialer und emotionaler Fähigkeiten von Kindern auswirken könnte.

Wo verstecken sich die Cache 🦎 Cookies 🍪 ?

Um diese personalisierten Erlebnisse zu ermöglichen, sammeln diese neuen Technologien riesige Mengen deiner persönlichen Daten. Dies wirft grosse Bedenken hinsichtlich des Besitzes, der Kontrolle und des potenziellen Missbrauchs dieser Daten für zielgerichtete Werbung auf. Der Bericht der Mozilla-Stiftung deckt besorgniserregende Datenschutz- und Sicherheitslücken bei Chatbots wie Replika auf. Denke ausserdem daran, dass es unglaublich schwierig ist, deine Daten zu löschen, sobald sie einmal veröffentlicht wurden.

Die EU ergreift Massnahmen zum Schutz von Benutzerdaten mit strengen Vorschriften darüber, wie Unternehmen sie sammeln, verarbeiten und speichern. Aber bleiben wir wachsam! Cache Cookies hält dich über die neuesten Entwicklungen in der Technologie und deren Auswirkungen auf unsere Zukunft auf dem Laufenden.

EU AI Act : Innovation und Einhaltung von Vorschriften in Einklang bringen

Letzten Monat hat Europa Geschichte geschrieben, als die weltweit erste grosse AI-Regulierung (letzte Ausgaben hier lesen), der EU AI Act, eingeführt wurde. Dieses bahnbrechende Gesetz zielt darauf ab, eine sichere, menschenzentrierte AI-Entwicklung sicherzustellen, indem es Grenzen für die Gesichtserkennung setzt, die Verwendung von Emotionserkennungs-AI in Schulen und Arbeitsplätzen verbietet (siehe oben Hume AI) und Transparenz fordert. Es scheint die perfekte Antwort auf den schnellen und potenziell disruptiven Aufstieg von KI zu sein, aber die Geschäftswelt hat erhebliche Bedenken geäussert und Gesetzgeber geben zu, dass der AI Act eines der am stärksten lobbyierten Gesetze der EU in den letzten Jahren war! Werfen wir einen genaueren Blick darauf:

Unklare Definitionen, unsicherer Umfang

• Das Problem: Die vage Definition von "KI" im Gesetz könnte zu Lücken in der Regulierung führen, da sich die Technologie weiterentwickelt. Unternehmen, die in der EU tätig sind, unabhängig von ihrer Herkunft, befürchten, mit hohen Geldstrafen (bis zu 30 Millionen Euro!) für unbeabsichtigte Nichteinhaltung bestraft zu werden.

• Beispiel : Die Implementierung von KI in der Versicherungsbranche umfasst ein breites Spektrum, von einfachen Chatbots bis hin zu komplexen Risikobewertungsalgorithmen. Die derzeitige gesetzliche Einstufung aller versicherungsbezogenen KI-Systeme als "hohes Risiko" könnte jedoch die Nutzung von Systemen mit geringem Risiko behindern, da dies mit hohen Erfüllungskosten verbunden ist. Weitere Informationen findest du hier.

Innovation und Wettbewerbsfähigkeit

• Die Angst : Strenge Vorschriften könnten die Wettbewerbsfähigkeit Europas im globalen KI-Markt beeinträchtigen. Die Kosten für die Einhaltung von Vorschriften und potenzielle Einschränkungen könnten EU-Unternehmen benachteiligen.

• Der Gegenpunkt : Einige argumentieren, dass das Gesetz Europa einen Wettbewerbsvorteil verschaffen wird. Der "Brüssel-Effekt" legt nahe, dass die EU als erster Regulierer globale Standards setzen kann, die bestimmen, wie die Welt KI-Geschäfte tätigt. Diese Strategie hat sich bei der GDPR als erfolgreich erwiesen.

• Eine Umfrage sagt : Eine kürzlich vom Kent A. Clark Center durchgeführte Umfrage ergab, dass die meisten Wirtschaftsexperten nicht zustimmen oder unsicher sind, ob das KI-Gesetz die europäische Technologie benachteiligen wird.

Kann das EU AI Act-Gesetz die europäische Innovation lähmen ? Die Geschichte von Mistral

Mistral, einer der vielversprechendsten KI-Konkurrenten Europas zu OpenAI und Google, hat kürzlich die komplexe Wechselwirkung zwischen strategischen Geschäftsentscheidungen und regulatorischen Entwicklungen gezeigt. Kurz bevor der AI Act eingeführt wurde - scheinbar als vorsorgliche Massnahme - sicherte Mistral eine bedeutende Partnerschaft mit Microsoft. Diese Entwicklung verhinderte jedoch nicht den AI Act, der kurz darauf in Kraft trat. Neuste Berichte, einschliesslich eines Artikels in der New York Times, deuten darauf hin, dass sich die Beziehungen zwischen Mistral und den europäischen Regulierungsbehörden seitdem stabilisiert haben, wobei die europäischen Führer ein starkes Interesse daran gezeigt haben, regionale Interessen vor dominanten US-Technologieunternehmen zu schützen.

Auf dem kürzlich in Paris stattgefundenen RAISE Summit betonte Mistral-CEO Arthur Mensch die Bedeutung der Entwicklung eigener KI-Fähigkeiten Europas, um eine Abhängigkeit von nicht-europäischen Technologien zu vermeiden. Er hob die Notwendigkeit hervor, einen "europäischen Champion" in KI zu etablieren, um sicherzustellen, dass Europa seine eigene strategische Ausrichtung festlegen kann, anstatt dem von den Vereinigten Staaten vorgegebenen Fahrplan zu folgen.

Trotz dieser ehrgeizigen Vision steht Mistral vor erheblichen Herausforderungen. Das Unternehmen hat zwar rund 500 Millionen Euro eingesammelt und erzielt wiederkehrende Umsätze in Millionenhöhe, doch diese Zahlen werden von den Finanzierungen der amerikanischen Pendants OpenAI und Anthropic in den Schatten gestellt, die 13 Milliarden bzw. 7,3 Milliarden US-Dollar erhalten haben. Dieses krasses Missverhältnis wirft Fragen nach der Fähigkeit von Mistral auf, auf einem solch ungleichen Spielfeld konkurrieren zu können.

Globale Konvergenz : KI-Vorschriften nehmen Gestalt an

Während die EU mit ihrem AI Act die Führung übernommen hat, ebnen andere grosse Mächte ihren eigenen Weg in der KI-Regulierung. Interessanterweise bewegen sich sowohl die USA als auch China in Richtung risikobasierter Regulierungsrahmen, die dem Ansatz der EU ähneln:

• USA : 2023 sah erhebliche Fortschritte in der KI-Politik der USA, mit einer Exekutivanordnung von Präsident Biden, die eine erhöhte Transparenz und Kennzeichnung von KI-generierten Inhalten fordert. 2024 soll auf diesem aufbauen, und das US AI Safety Institute, das zu Beginn dieses Jahres gegründet wurde, wird eine entscheidende Rolle bei der Umsetzung der in Bidens Exekutivanordnung umrissenen Politik spielen. Die USA bewegen sich auch in Richtung eines risikobasierten Regulierungsrahmens, der dem EU AI Act ähnelt. Die Präsidentschaftswahlen 2024 werden wahrscheinlich die laufende Debatte über die Auswirkungen von KI, insbesondere in sozialen Medien, beeinflussen.

• CHINA : In China war die KI-Regulierung traditionell reaktiv, mit separaten Gesetzen für Empfehlungsdienste wie TikTok-ähnliche Apps und Suchmaschinen, Deepfakes und generative KI. Dieser Ansatz ermöglicht schnelle Reaktionen auf neue Risiken, mangelt jedoch an einer kohärenten Strategie. Allerdings stehen grosse Veränderungen bevor. Im Juni 2023 kündigte China Pläne für ein umfassendes "Künstliches Intelligenz-Gesetz" an, das dem EU AI Act ähnelt.

BCI-Umfrage : Die Ergebnisse sind da!

In unserem letzten Newsletter haben wir euch gebeten, eure Meinung zu Brain-Computer-Interfaces (BCIs) wie Neuralink zu äussern. Hier sind die Ergebnisse :

• Die Mehrheitsmeinung : Die meisten Befragten glauben, dass BCIs aufregende Möglichkeiten bieten, aber eine strenge Regulierung benötigen, um die Risiken zu bewältigen.

• Bedenken bleiben : Eine kleinere, aber signifikante Anzahl von euch ist der Meinung, dass die Risiken zu gross sind und das BCIs gestoppt werden sollten.

• Keine uneingeschränkte Unterstützung : Auffällig ist, dass niemand die uneingeschränkte Entwicklung von BCIs unterstützt hat.

Diese Ergebnisse zeigen den Wunsch der Öffentlichkeit nach einem ausgewogenen Ansatz bei der BCI-Innovation, der sowohl Fortschritt als auch verantwortungsvolle Schutzmassnahmen priorisiert.

Noch Zeit zu wählen ! Wenn du noch nicht deine Meinung geteilt hast, dann kannst du dies HIER noch machen! Deine Stimme zählt.

Vielen Dank für deine Teilnahme !

Stellenangebote

Das war's erstmal! Du willst noch mehr Spannendes aus der KI-Welt erfahren ? Dann besuch unbedingt unsere Webseite. Vernetze dich mit uns! Folge uns auf LinkedIn @Mila & @Zeynep. Teile dein Wissen weiter! Kennst du “Smart Cookies”, die sich für KI interessieren ? Dann leite diesen Newsletter an sie weiter.

Wir lieben Feedback ! Hinterlasse deinen Kommentar.