Ist es an der Zeit, sich Sorgen über KI-Hacker zu machen?

Der KI-Angriff bestimmt zunächst das Ziel, holt dann Feedback ein und optimiert und verbessert sich kontinuierlich. Wenn KI eines Tages völlig neuartige Lösungen entwickeln oder sogar damit beginnen kann, Lösungen zu optimieren, wird ihre Tödlichkeit enorm sein.

Systemmehrdeutigkeit ist die aktuelle Barriere gegen KI-Hacker

Bei Spielen wie Go sind die Regeln, Ziele und Rückmeldungen einfach und sicher. Es gibt keine externen Dinge, die die Situation stören könnten. . Die GPT-3-KI kann zusammenhängende Artikel schreiben, da die Welt, in der sie lebt, nur aus Text besteht. Aus diesem Grund werden viele aktuelle Hacker-Belohnungsaktivitäten in simulierten Umgebungen durchgeführt, alle künstlich, alle eingeschränkt und alle Regeln sind auf KI vorbereitet.

Die Unschärfe des Systems ist der Schlüssel. Wir können alle globalen Steuergesetze in die KI eingeben, da es in den Steuergesetzen Formeln gibt, um zu bestimmen, wie viel Steuer geschuldet wird. Dennoch weisen alle Gesetze Unklarheiten auf. Unschärfe ist schwer in Code zu übersetzen und für die KI schwierig zu handhaben. Auch mit KI wird es also in absehbarer Zukunft weiterhin Bedarf an vielen Steueranwälten geben.

Die meisten menschlichen Systeme sind mehrdeutiger. Könnte KI verwendet werden, um reale Sportspiele (z. B. Hockeyspiele) zu hacken? Ich fürchte, es ist schwierig. Die KI muss die Spielregeln verstehen, aber das reicht nicht aus. Sie muss auch die menschliche Physiologie, die Aerodynamik von Schlägern und Bällen und mehr verstehen. Natürlich können wir nicht sagen, dass es absolut unmöglich ist, aber es ist definitiv viel schwieriger als mit Go umzugehen.

Kurzfristig wird die Abwehrfähigkeit des Systems gegen KI-Hacker verbessert, gerade weil soziale Systeme äußerst komplex sind und Unklarheiten aufweisen. Es ist unwahrscheinlich, dass KI-Sporthacker in Zukunft auftauchen werden. Wenn Roboter persönlich an Spielen teilnehmen oder die KI eines Tages so weit fortgeschritten ist, dass sie die weite Welt aus allen Dimensionen verstehen kann, dann werden vielleicht KI-Sporthacker geboren.

Ebenso sind Casino-KI-Hacker und Rechtsprozess-KI-Hacker nicht einfach zu entwickeln. Es wird lange dauern, bis KI die Arbeit von Einzelpersonen oder Gruppen simulieren kann, und dies ist vorerst nicht möglich.

Aber unterschätzen Sie nicht die nichtlinearen Evolutionsfähigkeiten der KI

Die Welt ist voller KI-Hacker. Dies ist ein Science-Fiction-Problem, aber es ist kein dummes Science-Fiction-Problem. Die KI verbessert sich schnell, ihre Fortschritte sind jedoch instabil und inkohärent. Probleme, die wir für schwierig hielten, könnten sich als einfach erweisen, und Probleme, die wir für einfach hielten, könnten sich als schwierig erweisen. Vor ein paar Jahrzehnten hätten wir vielleicht über die KI gelacht und geglaubt, sie könne Go nicht erobern, weil Go zu komplex sei: Nicht weil die Regeln komplex wären, sondern weil es zu viele mögliche Züge gäbe. Was nun? KI hat Go bereits gewonnen.

Wir sollten also im Voraus über das Problem der KI-Hacker nachdenken und frühzeitig Pläne vorbereiten.

Zuallererst sollten wir auf KI-Hacker im Finanzsystem achten, da die Regeln des Finanzsystems leicht von Algorithmen ausgenutzt werden können. Hochfrequenzhandelsalgorithmen sind ein gutes Beispiel und werden in Zukunft immer komplexer. Wir können KI mit globalen Finanzinformationen in Echtzeit ausrüsten, globale Gesetze und Vorschriften hinzufügen, Nachrichteninformationen und andere relevante Informationen hinzufügen und dann KI damit beauftragen, ein Ziel zu erreichen, nämlich „maximalen legalen Gewinn“ oder „den größtmöglichen Gewinn zu erzielen“. „. Gewinn“. Zu diesem Zeitpunkt kann es zu Hacking-Verhaltensweisen kommen, die über das menschliche Verständnis hinausgehen, was bedeutet, dass Menschen nicht einmal bemerken, dass Hacking-Verhaltensweisen stattgefunden haben. Natürlich scheint so etwas jetzt noch etwas weit weg zu sein.

Kurzfristig könnte die KI mit Menschen zusammenarbeiten, um Hacking-Angriffe durchzuführen. KI kann Schlupflöcher finden, und erfahrene Buchhalter oder Steueranwälte können zusammenarbeiten und ihre umfangreiche Erfahrung nutzen, um festzustellen, ob Schlupflöcher gewinnbringend ausgenutzt werden können.

Die Tödlichkeit reifer KI-Hacker ist unermesslich

In der gesamten Menschheitsgeschichte handelte es sich bei Hackerangriffen im Allgemeinen um menschliches Verhalten. Wenn die KI angreift, wird sich alles ändern. KI wird nicht auf bestimmte Methoden beschränkt sein und nicht wie der Mensch vielen Einschränkungen unterliegen. KI ruht überhaupt nicht, sie denken wie Außerirdische, und sie kann Systeme auf eine Weise hacken, die Menschen nicht vorhersagen können.

Computer verstärken Angriffe in vier Dimensionen: Geschwindigkeit, Umfang, Umfang und Komplexität. KI kann die Angriffskraft um ein Vielfaches steigern.

Geschwindigkeit: Es kann Monate oder sogar Jahre dauern, bis der Mensch einen Angriff startet. Es kann Tage, Stunden oder sogar Sekunden dauern. Was würde zum Beispiel passieren, wenn Sie die gesamte US-Steuergesetzgebung in eine KI einspeisen und ihr sagen würden, sie solle einen Plan finden, um die Steuerbelastung einer Person zu minimieren? Wenn es sich um ein multinationales Unternehmen handelt, kann KI eingesetzt werden, um globale Steuergesetze zu analysieren und die Steuern für das Unternehmen zu senken.

Maßstab: Sobald eine KI eine Schwachstelle findet, kann sie diese in extrem großem Umfang ausnutzen. Wenn KI beginnt, in das Finanzsystem einzudringen, wird sie die gesamte Branche dominieren. Zu diesem Zeitpunkt könnten sich die Kreditmärkte, die Steuergesetze und die allgemeinen Gesetze zugunsten der Reichen neigen. KI wird die Ungleichheit verschärfen. Die ersten KI-Finanzhacker werden möglicherweise nicht von Forschern entwickelt, die Gleichberechtigung anstreben, sondern von multinationalen Banken, Hedgefonds und Unternehmensberatern.

Geltungsbereich: Die Gesellschaft hat zwar einen Plan, mit Hackern umzugehen, aber sie befasst sich hauptsächlich mit menschlichen Hackern und Angriffen mit menschlicher Geschwindigkeit. Wenn KI schnell Hunderte von Lücken in Steuergesetzen finden kann, wie wird das Land damit umgehen? Die Geschwindigkeit, mit der Steuergesetze geändert werden, kann einfach nicht mithalten.

Komplexität: Mit Hilfe von KI können menschliche Hacker komplexe Angriffe starten, deren Komplexität das Niveau des menschlichen Verständnisses ohne fremde Hilfe übersteigt. Die ausgefeilte statistische Analyse von KI kann Beziehungen zwischen Variablen aufdecken und versteckte Schwachstellen aufdecken, die selbst den besten Strategen und Experten möglicherweise nicht bewusst sind.

Wenn KI Angriffe mit ultraschneller Geschwindigkeit, extrem großem Umfang, extrem großer Reichweite und extrem hoher Komplexität startet, ist die Gesellschaft möglicherweise überhaupt nicht in der Lage, damit umzugehen. Wird KI menschliche Grenzen durchbrechen und sogar die Gesellschaft dominieren? Einige KI-Forscher sind tatsächlich besorgt. Obwohl es jetzt wie eine Spekulation klingt, ist eine frühzeitige Prävention für den Menschen immer noch notwendig. (Xiao Ge)

Das obige ist der detaillierte Inhalt vonIst es an der Zeit, sich Sorgen über KI-Hacker zu machen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!