Der Einfluss des Datenmanagements auf generative KI
2023 wird das Jahr sein, das uns als Mainstream-Beginn der KI-Ära in Erinnerung bleibt, angetrieben von der Technologie, über die alle reden: ChatGPT.
Generative KI-Sprachmodelle wie ChatGPT haben unsere Fantasie beflügelt, da wir zum ersten Mal sehen können, wie KI wie Gespräche mit echten Menschen mit uns interagiert und Prosa generiert , Gedichte und andere neue Inhalte, die wir kreativ finden. Mit generativen KI-Lösungen besteht möglicherweise bahnbrechendes Potenzial zur Steigerung der Innovationsgeschwindigkeit, Produktivität und Effizienz bei der Wertschöpfung. Trotz der Einschränkungen gibt es noch viel Raum für Verbesserungen im Bewusstsein ihrer Datenschutz- und Management-Best Practices.
In letzter Zeit haben viele in den Bereichen Technologie und Sicherheit Alarm geschlagen, weil es an Verständnis und angemessenen regulatorischen Leitlinien für den Einsatz künstlicher Intelligenz mangelt. Es wurden Bedenken hinsichtlich der Zuverlässigkeit der Ergebnisse von KI-Tools, geistigen Eigentumsrechten, der Offenlegung sensibler Daten sowie Verstößen gegen Datenschutz- und Sicherheitsfragen geäußert.
Samsungs Vorfall mit ChatGPT sorgte für Schlagzeilen, weil der Technologieriese versehentlich seine Geheimnisse an ChatGPT weitergab. Samsung ist nicht das einzige Unternehmen, das dies tut: Eine Cyberhaven-Studie ergab, dass 4 % der Mitarbeiter sensible Unternehmensdaten in große Sprachmodelle eingespeist hatten. Vielen Menschen ist nicht bewusst, dass KI-Unternehmen diese Daten möglicherweise bei anderen Gelegenheiten wiederverwenden, wenn sie Unternehmensdaten zum Trainieren von Modellen verwenden.
Als ob wir kein weiteres Futter für Cyberkriminalität bräuchten, enthüllte das Cybersecurity-Intelligence-Unternehmen RecordedFuture: „Innerhalb weniger Tage nach der Veröffentlichung von ChatGPT hatten wir viele Bedrohungsakteure.“ In den Foren entdeckt, wo fehlerhafte, aber voll funktionsfähige Malware, Social-Engineering-Tutorials, Geldverdienpläne und mehr geteilt werden – alles mithilfe von ChatGPT „Wenn sich eine Person mit einem Tool wie ChatGPT anmeldet, kann sie auf IP-Adressen, Browsereinstellungen und Browsing-Aktivitäten zugreifen – genau wie bei heutigen Suchanfragen“, sagte Jose Blaya, Director of Engineering für privaten Internetzugang bei derselben Engine. Aber es steht noch mehr auf dem Spiel, weil dadurch politische Überzeugungen oder sexuelle Orientierung ohne die Zustimmung einer Person offengelegt werden könnten und die Veröffentlichung peinlicher oder sogar karriereschädigender Informationen bedeuten könnte.
Natürlich brauchen wir bessere Vorschriften und Standards, um diese neuen Technologien der künstlichen Intelligenz umzusetzen. Es fehlt jedoch an Diskussionen über die wichtige Rolle von Data Governance und Datenmanagement, die eine Schlüsselrolle bei der Einführung und sicheren Nutzung künstlicher Intelligenz in Unternehmen spielen können.
Alles dreht sich um Daten
Hier sind die drei Aspekte, auf die Sie sich konzentrieren sollten:
Bei proprietären vorab trainierten KI-Modellen oder großen Sprachmodellen (LLM) liegt das Kernproblem der Datenverwaltung und -transparenz in den Trainingsdaten. Maschinelle Lernprogramme, die llm verwenden, enthalten große Datensätze aus vielen Quellen. Das Problem besteht darin, dass LLM eine Blackbox ist und wenig Transparenz in die Quelldaten bietet. Wir sind unvoreingenommen und unvoreingenommen hinsichtlich der Glaubwürdigkeit der Quellen, vermeiden jedoch die Einbeziehung rechtswidriger persönlich identifizierbarer Informationen oder betrügerischer Daten. Open AI beispielsweise gibt seine Quelldaten nicht weiter. Die Washington Post analysierte den C4-Datensatz von Google, der 15 Millionen Websites umfasst, und fand Dutzende anstößiger Websites, die hetzerische und personenbezogene Informationsdaten sowie andere fragwürdige Inhalte enthielten. Data Governance erfordert Transparenz über Datenquellen und stellt die Gültigkeit und Vertrauenswürdigkeit der aus diesen Datenquellen gewonnenen Erkenntnisse sicher. Beispielsweise könnte Ihr KI-Bot anhand von Daten aus ungeprüften Quellen oder Fake-News-Seiten trainiert worden sein, wodurch sein Wissen verfälscht wird und nun Teil der neuen Richtlinien oder des F&E-Programms Ihres Unternehmens ist.
Derzeit verfolgen verschiedene Anbieter künstlicher Intelligenz unterschiedliche Strategien für den Umgang mit dem Datenschutz der Benutzer, einschließlich Datenisolation und Datendomänen. Ihre Mitarbeiter stellen LLM möglicherweise unwissentlich Daten zur Verfügung, wissen jedoch möglicherweise nicht, dass diese Daten in die Wissensdatenbank des Modells aufgenommen werden. Es ist möglich, dass Unternehmen unbeabsichtigt Geschäftsgeheimnisse, Softwarecodes und personenbezogene Daten an die Öffentlichkeit weitergeben. Einige KI-Lösungen bieten Workarounds, wie etwa APIs zum Schutz der Privatsphäre durch den Ausschluss von Daten aus vorab trainierten Modellen. Dies schränkt jedoch ihren Wert ein, da der ideale Anwendungsfall darin besteht, vorab trainierte Modelle mit fallspezifischen Daten zu erweitern und gleichzeitig die Daten privat zu halten. Eine Lösung für das Problem besteht darin, dass vorab trainierte KI-Tools das Konzept der Datendomänen verstehen. „Gemeinsame“ Trainingsdatenfelder werden für die Vorschulung verwendet und zwischen Einheiten geteilt, während Trainingsmodellerweiterungen, die auf „proprietären Daten“ basieren, sicher auf die Grenzen der Organisation beschränkt sind. Das Datenmanagement stellt sicher, dass diese Grenzen geschaffen und erhalten bleiben.
KI-induzierte abgeleitete Arbeiten decken den dritten Bereich des Datenmanagements ab, der mit dem KI-Prozess und letztendlich den Dateneigentümern zusammenhängt. Nehmen wir an, ich verwende einen KI-Bot, um ein Codierungsproblem zu lösen. Normalerweise wüsste ich, wer für die Untersuchung und Behebung einer Sache verantwortlich ist, denn wenn etwas nicht richtig gehandhabt wird, tritt ein Fehler auf. Aber bei KI ist meine Organisation für alle Fehler oder nachteiligen Folgen verantwortlich, die sich aus den Aufgaben ergeben, die ich der KI auftrage – auch wenn wir über den Prozess oder die Quelldaten nicht transparent sind. Der Maschine kann man nicht die Schuld geben: Irgendwo war es ein Mensch, der einen Fehler oder ein schlechtes Ergebnis gemacht hat. Was ist mit dem geistigen Eigentum? Besitzen Sie das geistige Eigentum eines mit generativen KI-Tools erstellten Werks? Laut Harvard Business Review beginnt die Kunstwelt bereits, Klagen einzureichen.
Datenmanagementstrategien, die Sie jetzt in Betracht ziehen sollten
In diesen frühen Phasen wissen wir nicht, was wir nicht über KI wissen, einschließlich schlechte Daten, Privatsphäre und Sicherheit, Risiken für geistiges Eigentum und andere sensible Datensätze. Künstliche Intelligenz ist ebenfalls ein weites Feld mit mehreren Ansätzen wie LLM und logikbasierter Automatisierung. Dies sind nur einige der Themen, die durch die Kombination von Daten-Governance-Richtlinien und Datenverwaltungspraktiken untersucht werden:
#🎜🎜 #
- Unterbrechen Sie das Experimentieren mit generativer KI, bis Sie eine Überwachungsstrategie, -richtlinie,
- Leitfaden für konsolidiertes Datenmanagement: Beginnen Sie mit einem soliden Verständnis Ihrer Daten, unabhängig davon, wo sie sich befinden. Wo sind Ihre sensiblen persönlichen Daten und Kundendaten? Wie viele IP-Daten haben Sie und wo sind diese Dateien? Können Sie die Nutzung überwachen, um sicherzustellen, dass diese Datentypen nicht versehentlich in KI-Tools eingespeist werden, und um Sicherheits- oder Datenschutzverletzungen zu verhindern?
Vermeiden Sie die Bereitstellung unnötiger Daten für KI-Anwendungen und geben Sie keine sensiblen proprietären Daten weiter. Sperren/verschlüsseln Sie IP- und Kundendaten, um deren Weitergabe zu verhindern.
Verstehen Sie, wie und ob KI-Tools für Datenquellen transparent sein können.Können Anbieter Ihre Daten schützen? Google hat diese Aussage auf seinem Blog geteilt, aber das „Wie“ ist unklar: „Was auch immer Ob ein Unternehmen ein Modell schult.“ In VertexAI oder beim Aufbau eines Kundenserviceerlebnisses auf GenerativeAIAppBuilder werden private Daten vertraulich behandelt und nicht im breiteren zugrunde liegenden Modellschulungskorpus verwendet. Bitte lesen Sie die Vertragsbedingungen jedes KI-Tools sorgfältig durch, um zu verstehen, dass alle von Ihnen bereitgestellten Daten vertraulich behandelt werden
Kennzeichnen Sie die Daten als den Eigentümer oder die Person oder Abteilung, die das Projekt in Auftrag gegeben hat, da Sie möglicherweise abgeleitete Werke erstellen, um für die Arbeit Ihres Unternehmens verantwortlich zu sein generiert, möchten Sie wissen, wie und von wem KI in den Prozess eingebunden wird Es ist von entscheidender Bedeutung, ihr geistiges Eigentum und ihre identifizierenden Merkmale aus ihren Daten zu entfernen und sie für die zukünftige Verwendung einem gemeinsamen Trainingsdatensatz zur Verfügung zu stellen #
Bleiben Sie über alle Branchenvorschriften und Leitlinien informiert, die entwickelt werden, und tauschen Sie sich mit Kollegen anderer Organisationen aus, um zu erfahren, wie sie Risikominderung und Datenmanagement umsetzen. Risiken und Prozesse, die im Falle von Eigentumsrechtsverletzungen, böswilligen Akteuren usw. zu befolgen sind. oder falsche/fehlerhafte Ergebnisse- Ein praktischer Ansatz für künstliche Intelligenz im Unternehmen
- Künstliche Intelligenz entwickelt sich in einem beispiellosen Tempo , weiterhin innovativ, Kosten senkend und Benutzererfahrung verbessernd, und wie die meisten leistungsstarken Tools muss künstliche Intelligenz sorgfältig angewendet und mit der richtigen Datenverwaltung und Datenverwaltung ausgestattet werden, um die Sicherheit zu gewährleisten Klare Standards im Bereich des Datenmanagements mit künstlicher Intelligenz und weitere Forschung sind erforderlich. Unternehmen sollten Vorsicht walten lassen und sicherstellen, dass sie die Datenexposition, Datenschutzverletzungen und das Datenmanagement vollständig verstehen, bevor sie mögliche Datensicherheitsrisiken nutzen
Das obige ist der detaillierte Inhalt vonDer Einfluss des Datenmanagements auf generative KI. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heiße KI -Werkzeuge

Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool
Ausziehbilder kostenlos

Clothoff.io
KI-Kleiderentferner

AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

Heiße Werkzeuge

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen

Diese Seite berichtete am 27. Juni, dass Jianying eine von FaceMeng Technology, einer Tochtergesellschaft von ByteDance, entwickelte Videobearbeitungssoftware ist, die auf der Douyin-Plattform basiert und grundsätzlich kurze Videoinhalte für Benutzer der Plattform produziert Windows, MacOS und andere Betriebssysteme. Jianying kündigte offiziell die Aktualisierung seines Mitgliedschaftssystems an und führte ein neues SVIP ein, das eine Vielzahl von KI-Schwarztechnologien umfasst, wie z. B. intelligente Übersetzung, intelligente Hervorhebung, intelligente Verpackung, digitale menschliche Synthese usw. Preislich beträgt die monatliche Gebühr für das Clipping von SVIP 79 Yuan, die Jahresgebühr 599 Yuan (Hinweis auf dieser Website: entspricht 49,9 Yuan pro Monat), das fortlaufende Monatsabonnement beträgt 59 Yuan pro Monat und das fortlaufende Jahresabonnement beträgt 499 Yuan pro Jahr (entspricht 41,6 Yuan pro Monat). Darüber hinaus erklärte der Cut-Beamte auch, dass diejenigen, die den ursprünglichen VIP abonniert haben, das Benutzererlebnis verbessern sollen

Verbessern Sie die Produktivität, Effizienz und Genauigkeit der Entwickler, indem Sie eine abrufgestützte Generierung und ein semantisches Gedächtnis in KI-Codierungsassistenten integrieren. Übersetzt aus EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG, Autor JanakiramMSV. Obwohl grundlegende KI-Programmierassistenten natürlich hilfreich sind, können sie oft nicht die relevantesten und korrektesten Codevorschläge liefern, da sie auf einem allgemeinen Verständnis der Softwaresprache und den gängigsten Mustern beim Schreiben von Software basieren. Der von diesen Coding-Assistenten generierte Code eignet sich zur Lösung der von ihnen zu lösenden Probleme, entspricht jedoch häufig nicht den Coding-Standards, -Konventionen und -Stilen der einzelnen Teams. Dabei entstehen häufig Vorschläge, die geändert oder verfeinert werden müssen, damit der Code in die Anwendung übernommen wird

Um mehr über AIGC zu erfahren, besuchen Sie bitte: 51CTOAI.x Community https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou unterscheidet sich von der traditionellen Fragendatenbank, die überall im Internet zu sehen ist erfordert einen Blick über den Tellerrand hinaus. Large Language Models (LLMs) gewinnen in den Bereichen Datenwissenschaft, generative künstliche Intelligenz (GenAI) und künstliche Intelligenz zunehmend an Bedeutung. Diese komplexen Algorithmen verbessern die menschlichen Fähigkeiten, treiben Effizienz und Innovation in vielen Branchen voran und werden zum Schlüssel für Unternehmen, um wettbewerbsfähig zu bleiben. LLM hat ein breites Anwendungsspektrum und kann in Bereichen wie der Verarbeitung natürlicher Sprache, der Textgenerierung, der Spracherkennung und Empfehlungssystemen eingesetzt werden. Durch das Lernen aus großen Datenmengen ist LLM in der Lage, Text zu generieren

Large Language Models (LLMs) werden auf riesigen Textdatenbanken trainiert und erwerben dort große Mengen an realem Wissen. Dieses Wissen wird in ihre Parameter eingebettet und kann dann bei Bedarf genutzt werden. Das Wissen über diese Modelle wird am Ende der Ausbildung „verdinglicht“. Am Ende des Vortrainings hört das Modell tatsächlich auf zu lernen. Richten Sie das Modell aus oder verfeinern Sie es, um zu erfahren, wie Sie dieses Wissen nutzen und natürlicher auf Benutzerfragen reagieren können. Aber manchmal reicht Modellwissen nicht aus, und obwohl das Modell über RAG auf externe Inhalte zugreifen kann, wird es als vorteilhaft angesehen, das Modell durch Feinabstimmung an neue Domänen anzupassen. Diese Feinabstimmung erfolgt mithilfe von Eingaben menschlicher Annotatoren oder anderer LLM-Kreationen, wobei das Modell auf zusätzliches Wissen aus der realen Welt trifft und dieses integriert

Herausgeber | Der Frage-Antwort-Datensatz (QA) von ScienceAI spielt eine entscheidende Rolle bei der Förderung der Forschung zur Verarbeitung natürlicher Sprache (NLP). Hochwertige QS-Datensätze können nicht nur zur Feinabstimmung von Modellen verwendet werden, sondern auch effektiv die Fähigkeiten großer Sprachmodelle (LLMs) bewerten, insbesondere die Fähigkeit, wissenschaftliche Erkenntnisse zu verstehen und zu begründen. Obwohl es derzeit viele wissenschaftliche QS-Datensätze aus den Bereichen Medizin, Chemie, Biologie und anderen Bereichen gibt, weisen diese Datensätze immer noch einige Mängel auf. Erstens ist das Datenformular relativ einfach, die meisten davon sind Multiple-Choice-Fragen. Sie sind leicht auszuwerten, schränken jedoch den Antwortauswahlbereich des Modells ein und können die Fähigkeit des Modells zur Beantwortung wissenschaftlicher Fragen nicht vollständig testen. Im Gegensatz dazu offene Fragen und Antworten

Herausgeber |. KX Im Bereich der Arzneimittelforschung und -entwicklung ist die genaue und effektive Vorhersage der Bindungsaffinität von Proteinen und Liganden für das Arzneimittelscreening und die Arzneimitteloptimierung von entscheidender Bedeutung. Aktuelle Studien berücksichtigen jedoch nicht die wichtige Rolle molekularer Oberflächeninformationen bei Protein-Ligand-Wechselwirkungen. Auf dieser Grundlage schlugen Forscher der Universität Xiamen ein neuartiges Framework zur multimodalen Merkmalsextraktion (MFE) vor, das erstmals Informationen über Proteinoberfläche, 3D-Struktur und -Sequenz kombiniert und einen Kreuzaufmerksamkeitsmechanismus verwendet, um verschiedene Modalitäten zu vergleichen Ausrichtung. Experimentelle Ergebnisse zeigen, dass diese Methode bei der Vorhersage von Protein-Ligand-Bindungsaffinitäten Spitzenleistungen erbringt. Darüber hinaus belegen Ablationsstudien die Wirksamkeit und Notwendigkeit der Proteinoberflächeninformation und der multimodalen Merkmalsausrichtung innerhalb dieses Rahmens. Verwandte Forschungen beginnen mit „S

Maschinelles Lernen ist ein wichtiger Zweig der künstlichen Intelligenz, der Computern die Möglichkeit gibt, aus Daten zu lernen und ihre Fähigkeiten zu verbessern, ohne explizit programmiert zu werden. Maschinelles Lernen hat ein breites Anwendungsspektrum in verschiedenen Bereichen, von der Bilderkennung und der Verarbeitung natürlicher Sprache bis hin zu Empfehlungssystemen und Betrugserkennung, und es verändert unsere Lebensweise. Im Bereich des maschinellen Lernens gibt es viele verschiedene Methoden und Theorien, von denen die fünf einflussreichsten Methoden als „Fünf Schulen des maschinellen Lernens“ bezeichnet werden. Die fünf Hauptschulen sind die symbolische Schule, die konnektionistische Schule, die evolutionäre Schule, die Bayes'sche Schule und die Analogieschule. 1. Der Symbolismus, auch Symbolismus genannt, betont die Verwendung von Symbolen zum logischen Denken und zum Ausdruck von Wissen. Diese Denkrichtung glaubt, dass Lernen ein Prozess der umgekehrten Schlussfolgerung durch das Vorhandene ist

Laut Nachrichten dieser Website vom 1. August hat SK Hynix heute (1. August) einen Blogbeitrag veröffentlicht, in dem es ankündigt, dass es am Global Semiconductor Memory Summit FMS2024 teilnehmen wird, der vom 6. bis 8. August in Santa Clara, Kalifornien, USA, stattfindet viele neue Technologien Generation Produkt. Einführung des Future Memory and Storage Summit (FutureMemoryandStorage), früher Flash Memory Summit (FlashMemorySummit), hauptsächlich für NAND-Anbieter, im Zusammenhang mit der zunehmenden Aufmerksamkeit für die Technologie der künstlichen Intelligenz wurde dieses Jahr in Future Memory and Storage Summit (FutureMemoryandStorage) umbenannt Laden Sie DRAM- und Speicheranbieter und viele weitere Akteure ein. Neues Produkt SK Hynix wurde letztes Jahr auf den Markt gebracht
