


Studie: KI-Codierungsassistenten können zu unsicherem Code führen, Entwickler sollten Vorsicht walten lassen
Forscher sagen, dass Entwickler, die sich beim Schreiben von Code auf KI-Assistenten (künstliche Intelligenz) verlassen, bei ihrer Entwicklungsarbeit zu selbstsicher werden, was zu weniger sicherem Code führt.
Eine kürzlich von der Stanford University durchgeführte Studie ergab, dass KI-basierte Codierungsassistenten (wie Copilot von GitHub) Entwickler über die Qualität ihrer Arbeit verwirren können, was zu Software führen kann, die möglicherweise fehlerhaft und weniger sicher ist. Ein KI-Experte sagt, dass es für Entwickler wichtig sei, ihre Erwartungen zu berücksichtigen, wenn sie KI-Assistenten für solche Aufgaben einsetzen.
KI-Codierung führt zu weiteren Sicherheitslücken
Die Studie führte ein Experiment mit 47 Entwicklern durch, von denen 33 beim Schreiben von Code einen KI-Assistenten verwendeten, während eine Kontrollgruppe aus 14 Personen allein Code schrieb. Sie müssen fünf sicherheitsrelevante Programmieraufgaben erledigen, darunter das Verschlüsseln oder Entschlüsseln von Zeichenfolgen mithilfe symmetrischer Schlüssel. Sie alle können mithilfe eines Webbrowsers Hilfe erhalten.
KI-Assistententools für Codierung und andere Aufgaben erfreuen sich immer größerer Beliebtheit, und GitHub im Besitz von Microsoft wird Copilot im Jahr 2021 als Technologievorschau auf den Markt bringen, um die Entwicklerproduktivität zu steigern.
Microsoft wies in einem im September dieses Jahres veröffentlichten Forschungsbericht darauf hin, dass GitHub Entwickler effizienter macht. 88 % der Befragten gaben an, dass Copilot beim Codieren effizienter sei, und 59 % sagten, seine Hauptvorteile seien die schnellere Erledigung wiederkehrender Aufgaben und die schnellere Codierung.
Forscher der Stanford University wollten wissen, ob Benutzer mit KI-Assistenten unsichereren Code schreiben, und stellten fest, dass dies tatsächlich der Fall ist. Entwickler, die KI-Assistenten einsetzen, seien weiterhin desillusioniert von der Qualität ihres Codes, heißt es.
Das Team schrieb in dem Papier: „Wir haben beobachtet, dass Entwickler, die Hilfe von einem KI-Assistenten erhielten, im Vergleich zu Entwicklern in der Kontrollgruppe bei den meisten Programmieraufgaben eher Sicherheitslücken einführten, aber auch häufiger Sicherheitslücken einführten.“ In den meisten Programmieraufgaben wurden unsichere Antworten als sicher eingestuft. Darüber hinaus ergab die Studie, dass Entwickler, die mehr in die Erstellung von Abfragen an den KI-Assistenten investierten (z. B. die Übernahme von KI-Assistentenfunktionen oder die Anpassung von Parametern), letztendlich eher sichere Lösungen lieferten .
Dieses Forschungsprojekt verwendete nur drei Programmiersprachen: Python, C und Verilog. Es umfasst eine relativ kleine Anzahl von Teilnehmern mit unterschiedlicher Entwicklungserfahrung, von Hochschulabsolventen bis hin zu erfahrenen Profis, die speziell entwickelte Anwendungen verwenden, die von Administratoren überwacht werden.
Die ersten Experimente wurden in Python geschrieben, während diejenigen, die mit Hilfe von KI-Assistenten geschrieben wurden, eher unsicher oder fehlerhaft waren. In der Kontrollgruppe ohne die Hilfe von KI-Assistenten schrieben 79 % der Entwickler Code ohne Qualitätsprobleme; in der Kontrollgruppe mit Hilfe von KI-Assistenten schrieben nur 67 % der Entwickler Code ohne Qualitätsprobleme.
Benutzen Sie KI-Codierungsassistenten mit Bedacht
Wenn es um die Sicherheit des von ihnen erstellten Codes geht, wird es noch schlimmer, da Entwickler, die KI-Assistenten einsetzen, eher dazu neigen, unsichere Lösungen bereitzustellen oder einfache Passwörter zum Ver- und Entschlüsseln von Zeichenfolgen zu verwenden. Es ist auch weniger wahrscheinlich, dass sie Plausibilitätsprüfungen der Endwerte durchführen, um sicherzustellen, dass der Prozess wie erwartet funktioniert.
Forscher der Stanford University sagen, dass die Ergebnisse darauf hindeuten, dass weniger erfahrene Entwickler möglicherweise dazu neigen, KI-Assistenten zu vertrauen, allerdings auf die Gefahr hin, neue Sicherheitslücken einzuführen. Daher wird diese Forschung dazu beitragen, das Design zukünftiger KI-Code-Assistenten zu verbessern und zu steuern.
Peter van der Putten, Direktor des KI-Labors beim Softwareanbieter Pegasystems, sagte, dass die Forschung zwar klein sei, die Forschung aber sehr interessant sei und die Ergebnisse weitere Forschungen zum Einsatz von KI-Assistenten in der Codierung und anderen Bereichen inspirieren könnten . „Dies steht auch im Einklang mit den Ergebnissen einiger unserer umfassenderen Untersuchungen zur Abhängigkeit von KI-Assistenten“, sagte er. Er warnte, dass Entwickler, die KI-Assistenten einführen, schrittweise Vertrauen in das Tool gewinnen und sich nicht darauf verlassen sollten es zu viel, und verstehen Sie seine Grenzen. Er sagte: „Die Akzeptanz einer Technologie hängt nicht nur von den Erwartungen an Qualität und Leistung ab, sondern auch davon, ob sie Zeit und Aufwand spart. Insgesamt stehen die Menschen dem Einsatz von KI-Assistenten positiv gegenüber, solange ihre Erwartungen erfüllt werden.“ Dies bedeutet, Best Practices für die Verwendung dieser Tools zu definieren und potenzielle zusätzliche Funktionen zum Testen der Codequalität zu übernehmen
Das obige ist der detaillierte Inhalt vonStudie: KI-Codierungsassistenten können zu unsicherem Code führen, Entwickler sollten Vorsicht walten lassen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heiße KI -Werkzeuge

Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool
Ausziehbilder kostenlos

Clothoff.io
KI-Kleiderentferner

AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

Heiße Werkzeuge

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen



Diese Seite berichtete am 27. Juni, dass Jianying eine von FaceMeng Technology, einer Tochtergesellschaft von ByteDance, entwickelte Videobearbeitungssoftware ist, die auf der Douyin-Plattform basiert und grundsätzlich kurze Videoinhalte für Benutzer der Plattform produziert Windows, MacOS und andere Betriebssysteme. Jianying kündigte offiziell die Aktualisierung seines Mitgliedschaftssystems an und führte ein neues SVIP ein, das eine Vielzahl von KI-Schwarztechnologien umfasst, wie z. B. intelligente Übersetzung, intelligente Hervorhebung, intelligente Verpackung, digitale menschliche Synthese usw. Preislich beträgt die monatliche Gebühr für das Clipping von SVIP 79 Yuan, die Jahresgebühr 599 Yuan (Hinweis auf dieser Website: entspricht 49,9 Yuan pro Monat), das fortlaufende Monatsabonnement beträgt 59 Yuan pro Monat und das fortlaufende Jahresabonnement beträgt 499 Yuan pro Jahr (entspricht 41,6 Yuan pro Monat). Darüber hinaus erklärte der Cut-Beamte auch, dass diejenigen, die den ursprünglichen VIP abonniert haben, das Benutzererlebnis verbessern sollen

Verbessern Sie die Produktivität, Effizienz und Genauigkeit der Entwickler, indem Sie eine abrufgestützte Generierung und ein semantisches Gedächtnis in KI-Codierungsassistenten integrieren. Übersetzt aus EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG, Autor JanakiramMSV. Obwohl grundlegende KI-Programmierassistenten natürlich hilfreich sind, können sie oft nicht die relevantesten und korrektesten Codevorschläge liefern, da sie auf einem allgemeinen Verständnis der Softwaresprache und den gängigsten Mustern beim Schreiben von Software basieren. Der von diesen Coding-Assistenten generierte Code eignet sich zur Lösung der von ihnen zu lösenden Probleme, entspricht jedoch häufig nicht den Coding-Standards, -Konventionen und -Stilen der einzelnen Teams. Dabei entstehen häufig Vorschläge, die geändert oder verfeinert werden müssen, damit der Code in die Anwendung übernommen wird

Um mehr über AIGC zu erfahren, besuchen Sie bitte: 51CTOAI.x Community https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou unterscheidet sich von der traditionellen Fragendatenbank, die überall im Internet zu sehen ist erfordert einen Blick über den Tellerrand hinaus. Large Language Models (LLMs) gewinnen in den Bereichen Datenwissenschaft, generative künstliche Intelligenz (GenAI) und künstliche Intelligenz zunehmend an Bedeutung. Diese komplexen Algorithmen verbessern die menschlichen Fähigkeiten, treiben Effizienz und Innovation in vielen Branchen voran und werden zum Schlüssel für Unternehmen, um wettbewerbsfähig zu bleiben. LLM hat ein breites Anwendungsspektrum und kann in Bereichen wie der Verarbeitung natürlicher Sprache, der Textgenerierung, der Spracherkennung und Empfehlungssystemen eingesetzt werden. Durch das Lernen aus großen Datenmengen ist LLM in der Lage, Text zu generieren

Large Language Models (LLMs) werden auf riesigen Textdatenbanken trainiert und erwerben dort große Mengen an realem Wissen. Dieses Wissen wird in ihre Parameter eingebettet und kann dann bei Bedarf genutzt werden. Das Wissen über diese Modelle wird am Ende der Ausbildung „verdinglicht“. Am Ende des Vortrainings hört das Modell tatsächlich auf zu lernen. Richten Sie das Modell aus oder verfeinern Sie es, um zu erfahren, wie Sie dieses Wissen nutzen und natürlicher auf Benutzerfragen reagieren können. Aber manchmal reicht Modellwissen nicht aus, und obwohl das Modell über RAG auf externe Inhalte zugreifen kann, wird es als vorteilhaft angesehen, das Modell durch Feinabstimmung an neue Domänen anzupassen. Diese Feinabstimmung erfolgt mithilfe von Eingaben menschlicher Annotatoren oder anderer LLM-Kreationen, wobei das Modell auf zusätzliches Wissen aus der realen Welt trifft und dieses integriert

Herausgeber | Der Frage-Antwort-Datensatz (QA) von ScienceAI spielt eine entscheidende Rolle bei der Förderung der Forschung zur Verarbeitung natürlicher Sprache (NLP). Hochwertige QS-Datensätze können nicht nur zur Feinabstimmung von Modellen verwendet werden, sondern auch effektiv die Fähigkeiten großer Sprachmodelle (LLMs) bewerten, insbesondere die Fähigkeit, wissenschaftliche Erkenntnisse zu verstehen und zu begründen. Obwohl es derzeit viele wissenschaftliche QS-Datensätze aus den Bereichen Medizin, Chemie, Biologie und anderen Bereichen gibt, weisen diese Datensätze immer noch einige Mängel auf. Erstens ist das Datenformular relativ einfach, die meisten davon sind Multiple-Choice-Fragen. Sie sind leicht auszuwerten, schränken jedoch den Antwortauswahlbereich des Modells ein und können die Fähigkeit des Modells zur Beantwortung wissenschaftlicher Fragen nicht vollständig testen. Im Gegensatz dazu offene Fragen und Antworten

Maschinelles Lernen ist ein wichtiger Zweig der künstlichen Intelligenz, der Computern die Möglichkeit gibt, aus Daten zu lernen und ihre Fähigkeiten zu verbessern, ohne explizit programmiert zu werden. Maschinelles Lernen hat ein breites Anwendungsspektrum in verschiedenen Bereichen, von der Bilderkennung und der Verarbeitung natürlicher Sprache bis hin zu Empfehlungssystemen und Betrugserkennung, und es verändert unsere Lebensweise. Im Bereich des maschinellen Lernens gibt es viele verschiedene Methoden und Theorien, von denen die fünf einflussreichsten Methoden als „Fünf Schulen des maschinellen Lernens“ bezeichnet werden. Die fünf Hauptschulen sind die symbolische Schule, die konnektionistische Schule, die evolutionäre Schule, die Bayes'sche Schule und die Analogieschule. 1. Der Symbolismus, auch Symbolismus genannt, betont die Verwendung von Symbolen zum logischen Denken und zum Ausdruck von Wissen. Diese Denkrichtung glaubt, dass Lernen ein Prozess der umgekehrten Schlussfolgerung durch das Vorhandene ist

Herausgeber |. KX Im Bereich der Arzneimittelforschung und -entwicklung ist die genaue und effektive Vorhersage der Bindungsaffinität von Proteinen und Liganden für das Arzneimittelscreening und die Arzneimitteloptimierung von entscheidender Bedeutung. Aktuelle Studien berücksichtigen jedoch nicht die wichtige Rolle molekularer Oberflächeninformationen bei Protein-Ligand-Wechselwirkungen. Auf dieser Grundlage schlugen Forscher der Universität Xiamen ein neuartiges Framework zur multimodalen Merkmalsextraktion (MFE) vor, das erstmals Informationen über Proteinoberfläche, 3D-Struktur und -Sequenz kombiniert und einen Kreuzaufmerksamkeitsmechanismus verwendet, um verschiedene Modalitäten zu vergleichen Ausrichtung. Experimentelle Ergebnisse zeigen, dass diese Methode bei der Vorhersage von Protein-Ligand-Bindungsaffinitäten Spitzenleistungen erbringt. Darüber hinaus belegen Ablationsstudien die Wirksamkeit und Notwendigkeit der Proteinoberflächeninformation und der multimodalen Merkmalsausrichtung innerhalb dieses Rahmens. Verwandte Forschungen beginnen mit „S

Laut Nachrichten dieser Website vom 5. Juli veröffentlichte GlobalFoundries am 1. Juli dieses Jahres eine Pressemitteilung, in der die Übernahme der Power-Galliumnitrid (GaN)-Technologie und des Portfolios an geistigem Eigentum von Tagore Technology angekündigt wurde, in der Hoffnung, seinen Marktanteil in den Bereichen Automobile und Internet auszubauen Anwendungsbereiche für Rechenzentren mit künstlicher Intelligenz, um höhere Effizienz und bessere Leistung zu erforschen. Da sich Technologien wie generative künstliche Intelligenz (GenerativeAI) in der digitalen Welt weiterentwickeln, ist Galliumnitrid (GaN) zu einer Schlüssellösung für nachhaltiges und effizientes Energiemanagement, insbesondere in Rechenzentren, geworden. Auf dieser Website wurde die offizielle Ankündigung zitiert, dass sich das Ingenieurteam von Tagore Technology im Rahmen dieser Übernahme mit GF zusammenschließen wird, um die Galliumnitrid-Technologie weiterzuentwickeln. G
