Inhaltsverzeichnis
Apples Studie weist auf große Probleme mit der Zuverlässigkeit der KI hin
Sowohl Meta- als auch OpenAI-Modelle zeigten Probleme
Heim Technologie-Peripheriegeräte KI Eine neue Apple-Studie zeigt, dass das KI-Denken kritische Mängel aufweist

Eine neue Apple-Studie zeigt, dass das KI-Denken kritische Mängel aufweist

Oct 25, 2024 am 11:04 AM

Es ist keine Überraschung, dass KI nicht immer alles richtig macht. Gelegentlich kommt es sogar zu Halluzinationen. Eine aktuelle Studie von Apple-Forschern hat jedoch noch schwerwiegendere Mängel in den mathematischen Modellen aufgezeigt, die von KI für formale Schlussfolgerungen verwendet werden.

✕ Werbung entfernen

Im Rahmen der Studie forderten Apple-Wissenschaftler ein AI Large Language Model (LLM) stellten mehrmals und auf leicht unterschiedliche Weise eine Frage und waren erstaunt, als sie feststellten, dass das LLM unerwartete Variationen bei den Antworten bot. Diese Unterschiede traten am deutlichsten hervor, wenn es um Zahlen ging.

Apples Studie weist auf große Probleme mit der Zuverlässigkeit der KI hin

A New Apple Study Shows AI Reasoning Has Critical Flaws

Die von arxiv.org veröffentlichte Studie kam zu dem Schluss, dass es „erhebliche Leistungsschwankungen zwischen den Unternehmen“ gab Verschiedene Instanziierungen derselben Frage stellen eine Herausforderung für die Zuverlässigkeit aktueller GSM8K-Ergebnisse dar, die auf Einzelpunktgenauigkeitsmetriken basieren.“ GSM8K ist ein Datensatz, der über 8000 verschiedene Mathematikfragen und -antworten für Grundschulkinder enthält.

✕ Werbung entfernen

Apple-Forscher haben festgestellt, dass die Abweichung bei dieser Leistung bis zu 10 % betragen könnte. Und selbst geringfügige Abweichungen bei den Eingabeaufforderungen können enorme Probleme mit der Zuverlässigkeit der LLM-Antworten verursachen.

Mit anderen Worten: Sie möchten Ihre Antworten möglicherweise jedes Mal auf Fakten überprüfen, wenn Sie etwas wie ChatGPT verwenden. Denn auch wenn es manchmal so aussieht, als würde KI Logik verwenden, um Ihnen Antworten auf Ihre Anfragen zu geben, wird doch nicht Logik verwendet.

KI verlässt sich stattdessen auf Mustererkennung, um Antworten auf Aufforderungen zu geben. Die Apple-Studie zeigt jedoch, wie die Änderung selbst einiger unwichtiger Wörter diese Mustererkennung verändern kann.

Ein Beispiel für die dargestellte kritische Varianz entstand durch ein Problem beim Sammeln von Kiwis über mehrere Tage hinweg. Apple-Forscher führten ein Kontrollexperiment durch und fügten dann einige unbedeutende Informationen zur Kiwigröße hinzu.

✕ Werbung entfernen

Sowohl Meta- als auch OpenAI-Modelle zeigten Probleme

A New Apple Study Shows AI Reasoning Has Critical Flaws

Metas Llama und OpenAIs o1, änderten dann ihre Antworten auf das Problem gegenüber der Kontrolle, obwohl die Daten zur Kiwigröße keinen spürbaren Einfluss auf den Ausgang des Problems hatten. Auch der GPT-4o von OpenAI hatte Probleme mit seiner Leistung, als er winzige Variationen in den an das LLM übergebenen Daten einführte.

Da LLMs in unserer Kultur immer mehr an Bedeutung gewinnen, weckt diese Nachricht große Bedenken darüber, ob wir der KI vertrauen können um genaue Antworten auf unsere Anfragen zu geben. Besonders bei Themen wie Finanzberatung. Dies verstärkt auch die Notwendigkeit, die Informationen, die Sie erhalten, bei der Verwendung großer Sprachmodelle genau zu überprüfen.

Das bedeutet, dass Sie kritisch denken und sorgfältig prüfen sollten, anstatt sich blind auf KI zu verlassen. Wenn Sie jedoch jemand sind, der regelmäßig KI nutzt, wussten Sie das wahrscheinlich bereits.

✕ Entfernen Sie Werbung

Das obige ist der detaillierte Inhalt vonEine neue Apple-Studie zeigt, dass das KI-Denken kritische Mängel aufweist. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

Video Face Swap

Video Face Swap

Tauschen Sie Gesichter in jedem Video mühelos mit unserem völlig kostenlosen KI-Gesichtstausch-Tool aus!

Heißer Artikel

<🎜>: Bubble Gum Simulator Infinity - So erhalten und verwenden Sie Royal Keys
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
Nordhold: Fusionssystem, erklärt
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
Mandragora: Flüstern des Hexenbaum
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen

Java-Tutorial
1665
14
PHP-Tutorial
1269
29
C#-Tutorial
1249
24
10 generative AI -Codierungsweiterungen im VS -Code, die Sie untersuchen müssen 10 generative AI -Codierungsweiterungen im VS -Code, die Sie untersuchen müssen Apr 13, 2025 am 01:14 AM

Hey da, codieren Ninja! Welche Codierungsaufgaben haben Sie für den Tag geplant? Bevor Sie weiter in diesen Blog eintauchen, möchte ich, dass Sie über all Ihre Coding-Leiden nachdenken-die Auflistung auflisten diese auf. Erledigt? - Lassen Sie &#8217

GPT-4O gegen OpenAI O1: Ist das neue OpenAI-Modell den Hype wert? GPT-4O gegen OpenAI O1: Ist das neue OpenAI-Modell den Hype wert? Apr 13, 2025 am 10:18 AM

Einführung OpenAI hat sein neues Modell auf der Grundlage der mit Spannung erwarteten „Strawberry“ -Scharchitektur veröffentlicht. Dieses innovative Modell, bekannt als O1

Ein umfassender Leitfaden zu Vision Language Models (VLMs) Ein umfassender Leitfaden zu Vision Language Models (VLMs) Apr 12, 2025 am 11:58 AM

Einführung Stellen Sie sich vor, Sie gehen durch eine Kunstgalerie, umgeben von lebhaften Gemälden und Skulpturen. Was wäre, wenn Sie jedem Stück eine Frage stellen und eine sinnvolle Antwort erhalten könnten? Sie könnten fragen: „Welche Geschichte erzählst du?

Pixtral -12b: Mistral AIs erstes multimodales Modell - Analytics Vidhya Pixtral -12b: Mistral AIs erstes multimodales Modell - Analytics Vidhya Apr 13, 2025 am 11:20 AM

Einführung Mistral hat sein erstes multimodales Modell veröffentlicht, nämlich den Pixtral-12b-2409. Dieses Modell basiert auf dem 12 -Milliarden -Parameter von Mistral, NEMO 12b. Was unterscheidet dieses Modell? Es kann jetzt sowohl Bilder als auch Tex aufnehmen

Wie füge ich eine Spalte in SQL hinzu? - Analytics Vidhya Wie füge ich eine Spalte in SQL hinzu? - Analytics Vidhya Apr 17, 2025 am 11:43 AM

SQL -Änderungstabellanweisung: Dynamisches Hinzufügen von Spalten zu Ihrer Datenbank Im Datenmanagement ist die Anpassungsfähigkeit von SQL von entscheidender Bedeutung. Müssen Sie Ihre Datenbankstruktur im laufenden Flug anpassen? Die Änderungstabelleerklärung ist Ihre Lösung. Diese Anleitung Details Hinzufügen von Colu

Jenseits des Lama -Dramas: 4 neue Benchmarks für große Sprachmodelle Jenseits des Lama -Dramas: 4 neue Benchmarks für große Sprachmodelle Apr 14, 2025 am 11:09 AM

Schwierige Benchmarks: Eine Lama -Fallstudie Anfang April 2025 stellte Meta seine Lama 4-Suite von Models vor und stellte beeindruckende Leistungsmetriken vor, die sie positiv gegen Konkurrenten wie GPT-4O und Claude 3.5 Sonnet positionierten. Zentral im Launc

Wie baue ich multimodale KI -Agenten mit AGNO -Framework auf? Wie baue ich multimodale KI -Agenten mit AGNO -Framework auf? Apr 23, 2025 am 11:30 AM

Während der Arbeit an Agentic AI navigieren Entwickler häufig die Kompromisse zwischen Geschwindigkeit, Flexibilität und Ressourceneffizienz. Ich habe den Agenten-KI-Framework untersucht und bin auf Agno gestoßen (früher war es phi-

Wie ADHS -Spiele, Gesundheitstools und KI -Chatbots die globale Gesundheit verändern Wie ADHS -Spiele, Gesundheitstools und KI -Chatbots die globale Gesundheit verändern Apr 14, 2025 am 11:27 AM

Kann ein Videospiel Angst erleichtern, Fokus aufbauen oder ein Kind mit ADHS unterstützen? Da die Herausforderungen im Gesundheitswesen weltweit steigen - insbesondere bei Jugendlichen - wenden sich Innovatoren einem unwahrscheinlichen Tool zu: Videospiele. Jetzt einer der größten Unterhaltungsindus der Welt

See all articles