Inhaltsverzeichnis
Apples Studie weist auf große Probleme mit der Zuverlässigkeit der KI hin
Sowohl Meta- als auch OpenAI-Modelle zeigten Probleme
Heim Technologie-Peripheriegeräte KI Eine neue Apple-Studie zeigt, dass das KI-Denken kritische Mängel aufweist

Eine neue Apple-Studie zeigt, dass das KI-Denken kritische Mängel aufweist

Oct 25, 2024 am 11:04 AM

Es ist keine Überraschung, dass KI nicht immer alles richtig macht. Gelegentlich kommt es sogar zu Halluzinationen. Eine aktuelle Studie von Apple-Forschern hat jedoch noch schwerwiegendere Mängel in den mathematischen Modellen aufgezeigt, die von KI für formale Schlussfolgerungen verwendet werden.

✕ Werbung entfernen

Im Rahmen der Studie forderten Apple-Wissenschaftler ein AI Large Language Model (LLM) stellten mehrmals und auf leicht unterschiedliche Weise eine Frage und waren erstaunt, als sie feststellten, dass das LLM unerwartete Variationen bei den Antworten bot. Diese Unterschiede traten am deutlichsten hervor, wenn es um Zahlen ging.

Apples Studie weist auf große Probleme mit der Zuverlässigkeit der KI hin

A New Apple Study Shows AI Reasoning Has Critical Flaws

Die von arxiv.org veröffentlichte Studie kam zu dem Schluss, dass es „erhebliche Leistungsschwankungen zwischen den Unternehmen“ gab Verschiedene Instanziierungen derselben Frage stellen eine Herausforderung für die Zuverlässigkeit aktueller GSM8K-Ergebnisse dar, die auf Einzelpunktgenauigkeitsmetriken basieren.“ GSM8K ist ein Datensatz, der über 8000 verschiedene Mathematikfragen und -antworten für Grundschulkinder enthält.

✕ Werbung entfernen

Apple-Forscher haben festgestellt, dass die Abweichung bei dieser Leistung bis zu 10 % betragen könnte. Und selbst geringfügige Abweichungen bei den Eingabeaufforderungen können enorme Probleme mit der Zuverlässigkeit der LLM-Antworten verursachen.

Mit anderen Worten: Sie möchten Ihre Antworten möglicherweise jedes Mal auf Fakten überprüfen, wenn Sie etwas wie ChatGPT verwenden. Denn auch wenn es manchmal so aussieht, als würde KI Logik verwenden, um Ihnen Antworten auf Ihre Anfragen zu geben, wird doch nicht Logik verwendet.

KI verlässt sich stattdessen auf Mustererkennung, um Antworten auf Aufforderungen zu geben. Die Apple-Studie zeigt jedoch, wie die Änderung selbst einiger unwichtiger Wörter diese Mustererkennung verändern kann.

Ein Beispiel für die dargestellte kritische Varianz entstand durch ein Problem beim Sammeln von Kiwis über mehrere Tage hinweg. Apple-Forscher führten ein Kontrollexperiment durch und fügten dann einige unbedeutende Informationen zur Kiwigröße hinzu.

✕ Werbung entfernen

Sowohl Meta- als auch OpenAI-Modelle zeigten Probleme

A New Apple Study Shows AI Reasoning Has Critical Flaws

Metas Llama und OpenAIs o1, änderten dann ihre Antworten auf das Problem gegenüber der Kontrolle, obwohl die Daten zur Kiwigröße keinen spürbaren Einfluss auf den Ausgang des Problems hatten. Auch der GPT-4o von OpenAI hatte Probleme mit seiner Leistung, als er winzige Variationen in den an das LLM übergebenen Daten einführte.

Da LLMs in unserer Kultur immer mehr an Bedeutung gewinnen, weckt diese Nachricht große Bedenken darüber, ob wir der KI vertrauen können um genaue Antworten auf unsere Anfragen zu geben. Besonders bei Themen wie Finanzberatung. Dies verstärkt auch die Notwendigkeit, die Informationen, die Sie erhalten, bei der Verwendung großer Sprachmodelle genau zu überprüfen.

Das bedeutet, dass Sie kritisch denken und sorgfältig prüfen sollten, anstatt sich blind auf KI zu verlassen. Wenn Sie jedoch jemand sind, der regelmäßig KI nutzt, wussten Sie das wahrscheinlich bereits.

✕ Entfernen Sie Werbung

Das obige ist der detaillierte Inhalt vonEine neue Apple-Studie zeigt, dass das KI-Denken kritische Mängel aufweist. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

Video Face Swap

Video Face Swap

Tauschen Sie Gesichter in jedem Video mühelos mit unserem völlig kostenlosen KI-Gesichtstausch-Tool aus!

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen

Java-Tutorial
1664
14
PHP-Tutorial
1267
29
C#-Tutorial
1239
24
Erste Schritte mit Meta Lama 3.2 - Analytics Vidhya Erste Schritte mit Meta Lama 3.2 - Analytics Vidhya Apr 11, 2025 pm 12:04 PM

Metas Lama 3.2: Ein Sprung nach vorne in der multimodalen und mobilen KI Meta hat kürzlich Lama 3.2 vorgestellt, ein bedeutender Fortschritt in der KI mit leistungsstarken Sichtfunktionen und leichten Textmodellen, die für mobile Geräte optimiert sind. Aufbau auf dem Erfolg o

10 generative AI -Codierungsweiterungen im VS -Code, die Sie untersuchen müssen 10 generative AI -Codierungsweiterungen im VS -Code, die Sie untersuchen müssen Apr 13, 2025 am 01:14 AM

Hey da, codieren Ninja! Welche Codierungsaufgaben haben Sie für den Tag geplant? Bevor Sie weiter in diesen Blog eintauchen, möchte ich, dass Sie über all Ihre Coding-Leiden nachdenken-die Auflistung auflisten diese auf. Erledigt? - Lassen Sie &#8217

AV -Bytes: META ' S Lama 3.2, Googles Gemini 1.5 und mehr AV -Bytes: META ' S Lama 3.2, Googles Gemini 1.5 und mehr Apr 11, 2025 pm 12:01 PM

Die KI -Landschaft dieser Woche: Ein Wirbelsturm von Fortschritten, ethischen Überlegungen und regulatorischen Debatten. Hauptakteure wie OpenAI, Google, Meta und Microsoft haben einen Strom von Updates veröffentlicht, von bahnbrechenden neuen Modellen bis hin zu entscheidenden Verschiebungen in LE

Verkauf von KI -Strategie an Mitarbeiter: Shopify -CEO Manifesto Verkauf von KI -Strategie an Mitarbeiter: Shopify -CEO Manifesto Apr 10, 2025 am 11:19 AM

Das jüngste Memo von Shopify -CEO Tobi Lütke erklärt kühn für jeden Mitarbeiter eine grundlegende Erwartung und kennzeichnet eine bedeutende kulturelle Veränderung innerhalb des Unternehmens. Dies ist kein flüchtiger Trend; Es ist ein neues operatives Paradigma, das in P integriert ist

GPT-4O gegen OpenAI O1: Ist das neue OpenAI-Modell den Hype wert? GPT-4O gegen OpenAI O1: Ist das neue OpenAI-Modell den Hype wert? Apr 13, 2025 am 10:18 AM

Einführung OpenAI hat sein neues Modell auf der Grundlage der mit Spannung erwarteten „Strawberry“ -Scharchitektur veröffentlicht. Dieses innovative Modell, bekannt als O1

Ein umfassender Leitfaden zu Vision Language Models (VLMs) Ein umfassender Leitfaden zu Vision Language Models (VLMs) Apr 12, 2025 am 11:58 AM

Einführung Stellen Sie sich vor, Sie gehen durch eine Kunstgalerie, umgeben von lebhaften Gemälden und Skulpturen. Was wäre, wenn Sie jedem Stück eine Frage stellen und eine sinnvolle Antwort erhalten könnten? Sie könnten fragen: „Welche Geschichte erzählst du?

Neueste jährliche Zusammenstellung der besten technischen Techniken Neueste jährliche Zusammenstellung der besten technischen Techniken Apr 10, 2025 am 11:22 AM

Für diejenigen unter Ihnen, die in meiner Kolumne neu sein könnten, erforsche ich allgemein die neuesten Fortschritte in der KI auf dem gesamten Vorstand, einschließlich Themen wie verkörpertes KI, KI-Argumentation, High-Tech

3 Methoden zum Ausführen von LLAMA 3.2 - Analytics Vidhya 3 Methoden zum Ausführen von LLAMA 3.2 - Analytics Vidhya Apr 11, 2025 am 11:56 AM

METAs Lama 3.2: Ein multimodales KI -Kraftpaket Das neueste multimodale Modell von META, Lama 3.2, stellt einen erheblichen Fortschritt in der KI dar, das ein verbessertes Sprachverständnis, eine verbesserte Genauigkeit und die überlegenen Funktionen der Textgenerierung bietet. Seine Fähigkeit t

See all articles