웹3.0 AI의 새로운 세계 과제: 보안과 개인 정보 보호는 어떻게 되었나요?

AI의 새로운 세계 과제: 보안과 개인 정보 보호는 어떻게 되었나요?

Mar 31, 2024 pm 06:46 PM
안전 ai 은둔

생성 AI의 급속한 발전으로 인해 개인 정보 보호 및 보안에 전례 없는 문제가 발생하여 규제 개입에 대한 긴급한 요청이 촉발되었습니다.

AI 的新世界挑战:安全和隐私怎么了?

지난 주, 저는 워싱턴 D.C.에서 몇몇 국회의원 및 그 직원들과 함께 AI가 보안과 관련된 영향에 대해 논의할 기회를 가졌습니다.

오늘날의 생성 AI는 기초 연구, 잠재 잠재력 및 학문적 활용을 갖춘 80년대 후반 인터넷을 연상시키지만 아직 대중에게 공개될 준비가 되어 있지 않습니다. 이번에는 마이너 리그 벤처 캐피털과 트위터 에코 챔버에서 영감을 받은 자유로운 벤더 야망이 AI의 "멋진 신세계"를 빠르게 발전시키고 있습니다.

"공용" 기본 모델은 결함이 있고 소비자 및 상업적 용도로 적합하지 않습니다. 개인 정보 보호 추상화가 존재하는 경우 공격 표면과 위협 벡터를 여전히 이해하고 있기 때문에 체처럼 누출되는 보안 아키텍처가 중요합니다. 환상의 가드레일은 말이 적을수록 좋습니다.

그러면 우리는 어떻게 여기까지 왔는가? 보안과 개인 정보 보호는 어떻게 되었나요?

"절충" 기본 모델

"열기" 모드에는 때때로 제한이 있습니다. 다양한 공급업체는 개방형 모드 가중치, 문서 액세스 또는 테스트를 통해 개방성 정도를 광고합니다. 그럼에도 불구하고 주요 공급업체 중 어느 곳도 모델을 복제하고 재생산할 수 있도록 훈련 데이터 세트나 해당 매니페스트 또는 계보 정보에 가까운 정보를 제공하지 않습니다.

하나 이상의 모델을 사용하여 데이터 세트를 훈련하려는 경우 소비자 또는 조직으로서 지적 재산권, 저작권 등과 관련하여 데이터 오염 정도를 확인하거나 확인할 수 있는 능력이 없습니다. 또는 불법 콘텐츠로 간주됩니다.

결정적으로 훈련 데이터 세트의 매니페스트가 없으면 존재하지 않는 악성 콘텐츠를 확인하거나 확인할 방법이 없습니다. 국가 후원 행위자를 포함한 악의적인 행위자는 네트워크에 트로이 목마 콘텐츠를 심습니다. 이 콘텐츠는 모델 훈련 중에 섭취될 경우 추론 중에 예측할 수 없고 잠재적으로 악의적인 부작용을 초래합니다.

모델이 손상되면 잊어버리게 할 수 있는 방법이 없으며 유일한 선택은 모델을 파괴하는 것입니다.

"전반적인" 보안 문제

생성적 AI 모델은 "모든" 데이터가 컨테이너에 수집되기 때문에 궁극적으로 안전한 허니팟입니다. AI 시대에 새로운 범주의 공격 벡터가 등장했습니다. 업계에서는 이러한 모델이 사이버 위협으로부터 어떻게 보호되는지, 그리고 이러한 모델이 사이버 위협 행위자가 도구로 사용할 수 있는 방법의 영향을 아직 이해하지 못했습니다.

악의적인 힌트 주입 기술은 인덱스를 오염시키는 데 사용될 수 있습니다. 반전 기술을 포함한 임베딩 공격은 임베딩에서 풍부한 데이터를 추출하는 데 사용될 수 있습니다. 훈련 세트 등은 빙산의 일각에 불과합니다.

위협 행위자는 모델 반전 및 프로그래밍 방식 쿼리를 통해 기밀 데이터에 접근할 수 있습니다. 모델의 기본 동작을 손상시키거나 다른 방식으로 영향을 미칠 수 있으며, 앞서 언급한 것처럼 통제되지 않은 대규모 데이터 수집으로 인해 국가가 후원하는 사이버에 위협이 포함될 수 있습니다. 트로이 목마와 같은 활동.

“유출된” 개인 정보

AI 모델은 훈련된 데이터 세트 때문에 유용합니다. 무분별한 대규모 데이터 수집은 개인과 대중에게 전례 없는 개인 정보 보호 위험을 초래합니다. AI 시대에는 개인정보 보호가 사회적 문제로 대두되었으며, 개인 데이터 권리를 주로 다루는 규정이 부족합니다.

정적 데이터 외에도 동적 대화를 위한 프롬프트도 지적 재산으로 보호 및 유지되어야 합니다. 모델과 함께 아티팩트를 공동 생성하는 데 관련된 소비자인 경우 이 생성 활동을 안내하는 데 사용하는 프롬프트가 모델을 교육하는 데 사용되거나 다른 모델 소비자와 공유되지 않기를 바랍니다.

귀하가 비즈니스 성과를 달성하기 위해 모델을 사용하는 직원인 경우 고용주는 귀하의 팁이 기밀로 유지되기를 기대합니다. 또한 양 당사자에게 책임 문제가 발생할 경우 팁과 답변에 안전한 감사 추적이 필요합니다. 이는 주로 이러한 모델의 확률론적 특성과 시간에 따른 응답의 변화에 ​​기인합니다.

다음에는 어떻게 되나요?

우리는 과거에 보안, 개인 정보 보호 및 기밀 유지를 위해 사용했던 방법이 더 이상 적절하지 않다는 점에서 대규모의 창발적이고 잠재된 동작을 보여준다는 점에서 컴퓨팅 역사상 고유한 전례 없는 기술을 다루고 있습니다.

업계 리더들은 주의를 기울여 규제 기관과 정책 입안자들이 개입할 수밖에 없게 만들었습니다.

위 내용은 AI의 새로운 세계 과제: 보안과 개인 정보 보호는 어떻게 되었나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

인기 기사

R.E.P.O. 에너지 결정과 그들이하는 일 (노란색 크리스탈)
1 몇 달 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 최고의 그래픽 설정
1 몇 달 전 By 尊渡假赌尊渡假赌尊渡假赌
Will R.E.P.O. 크로스 플레이가 있습니까?
1 몇 달 전 By 尊渡假赌尊渡假赌尊渡假赌

뜨거운 도구

메모장++7.3.1

메모장++7.3.1

사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

SublimeText3 Mac 버전

SublimeText3 Mac 버전

신 수준의 코드 편집 소프트웨어(SublimeText3)

Centos Shutdown 명령 줄 Centos Shutdown 명령 줄 Apr 14, 2025 pm 09:12 PM

CentOS 종료 명령은 종료이며 구문은 종료 [옵션] 시간 [정보]입니다. 옵션은 다음과 같습니다. -H 시스템 중지 즉시 옵션; -P 종료 후 전원을 끕니다. -R 다시 시작; -대기 시간. 시간은 즉시 (현재), 분 (분) 또는 특정 시간 (HH : MM)으로 지정할 수 있습니다. 추가 정보는 시스템 메시지에 표시 될 수 있습니다.

Centos에서 Gitlab의 백업 방법은 무엇입니까? Centos에서 Gitlab의 백업 방법은 무엇입니까? Apr 14, 2025 pm 05:33 PM

CentOS 시스템 하에서 Gitlab의 백업 및 복구 정책 데이터 보안 및 복구 가능성을 보장하기 위해 CentOS의 Gitlab은 다양한 백업 방법을 제공합니다. 이 기사는 완전한 GITLAB 백업 및 복구 전략을 설정하는 데 도움이되는 몇 가지 일반적인 백업 방법, 구성 매개 변수 및 복구 프로세스를 자세히 소개합니다. 1. 수동 백업 gitlab-rakegitlab : 백업 : 명령을 작성하여 수동 백업을 실행하십시오. 이 명령은 gitlab 저장소, 데이터베이스, 사용자, 사용자 그룹, 키 및 권한과 같은 주요 정보를 백업합니다. 기본 백업 파일은/var/opt/gitlab/backups 디렉토리에 저장됩니다. /etc /gitlab을 수정할 수 있습니다

Centos HDFS 구성을 확인하는 방법 Centos HDFS 구성을 확인하는 방법 Apr 14, 2025 pm 07:21 PM

CentOS 시스템에서 HDFS 구성 확인에 대한 완전한 안내서이 기사에서는 CentOS 시스템에서 HDF의 구성 및 실행 상태를 효과적으로 확인하는 방법을 안내합니다. 다음 단계는 HDF의 설정 및 작동을 완전히 이해하는 데 도움이됩니다. Hadoop 환경 변수 확인 : 먼저 Hadoop 환경 변수가 올바르게 설정되어 있는지 확인하십시오. 터미널에서 다음 명령을 실행하여 Hadoop이 올바르게 설치되고 구성되었는지 확인하십시오. Hadoopversion Check HDFS 구성 파일 : HDFS의 Core 구성 파일은/etc/hadoop/conf/directory에 있으며 Core-Site.xml 및 HDFS-Site.xml이 중요합니다. 사용

Centos에서 Pytorch에 대한 GPU 지원은 어떻습니까? Centos에서 Pytorch에 대한 GPU 지원은 어떻습니까? Apr 14, 2025 pm 06:48 PM

CentOS 시스템에서 Pytorch GPU 가속도를 활성화하려면 Cuda, Cudnn 및 GPU 버전의 Pytorch를 설치해야합니다. 다음 단계는 프로세스를 안내합니다. CUDA 및 CUDNN 설치 CUDA 버전 호환성 결정 : NVIDIA-SMI 명령을 사용하여 NVIDIA 그래픽 카드에서 지원하는 CUDA 버전을보십시오. 예를 들어, MX450 그래픽 카드는 CUDA11.1 이상을 지원할 수 있습니다. Cudatoolkit 다운로드 및 설치 : NVIDIACUDATOOLKIT의 공식 웹 사이트를 방문하여 그래픽 카드에서 지원하는 가장 높은 CUDA 버전에 따라 해당 버전을 다운로드하여 설치하십시오. CUDNN 라이브러리 설치 :

Centos 설치 MySQL Centos 설치 MySQL Apr 14, 2025 pm 08:09 PM

Centos에 MySQL을 설치하려면 다음 단계가 필요합니다. 적절한 MySQL Yum 소스 추가. mysql 서버를 설치하려면 yum install mysql-server 명령을 실행하십시오. mysql_secure_installation 명령을 사용하여 루트 사용자 비밀번호 설정과 같은 보안 설정을 작성하십시오. 필요에 따라 MySQL 구성 파일을 사용자 정의하십시오. MySQL 매개 변수를 조정하고 성능을 위해 데이터베이스를 최적화하십시오.

Docker 원리에 대한 자세한 설명 Docker 원리에 대한 자세한 설명 Apr 14, 2025 pm 11:57 PM

Docker는 Linux 커널 기능을 사용하여 효율적이고 고립 된 응용 프로그램 실행 환경을 제공합니다. 작동 원리는 다음과 같습니다. 1. 거울은 읽기 전용 템플릿으로 사용되며, 여기에는 응용 프로그램을 실행하는 데 필요한 모든 것을 포함합니다. 2. Union 파일 시스템 (Unionfs)은 여러 파일 시스템을 스택하고 차이점 만 저장하고 공간을 절약하고 속도를 높입니다. 3. 데몬은 거울과 컨테이너를 관리하고 클라이언트는 상호 작용을 위해 사용합니다. 4. 네임 스페이스 및 CGroup은 컨테이너 격리 및 자원 제한을 구현합니다. 5. 다중 네트워크 모드는 컨테이너 상호 연결을 지원합니다. 이러한 핵심 개념을 이해 함으로써만 Docker를 더 잘 활용할 수 있습니다.

Centos에서 Gitlab 로그를 보는 방법 Centos에서 Gitlab 로그를 보는 방법 Apr 14, 2025 pm 06:18 PM

Centos 시스템에서 Gitlab 로그를보기위한 완전한 안내서이 기사에서는 메인 로그, 예외 로그 및 기타 관련 로그를 포함한 CentOS 시스템에서 다양한 Gitlab 로그를 보는 방법을 안내합니다. 로그 파일 경로는 Gitlab 버전 및 설치 방법에 따라 다를 수 있습니다. 다음 경로가 존재하지 않으면 GitLab 설치 디렉토리 및 구성 파일을 확인하십시오. 1. 기본 gitlab 로그보기 다음 명령을 사용하여 Gitlabrails 응용 프로그램의 기본 로그 파일을 보려면 다음 명령 : 명령 : sudocat/var/log/gitlab/gitlab-rails/production.log이 명령은 제품을 표시합니다.

CentOS8은 ssh를 다시 시작합니다 CentOS8은 ssh를 다시 시작합니다 Apr 14, 2025 pm 09:00 PM

SSH 서비스를 다시 시작하라는 명령은 SystemCTL SSHD를 다시 시작합니다. 자세한 단계 : 1. 터미널에 액세스하고 서버에 연결; 2. 명령을 입력하십시오 : SystemCTL SSHD 재시작; 3. 서비스 상태를 확인하십시오 : SystemCTL 상태 SSHD.