자율규제는 이제 인공지능의 통제 표준이다

인공지능이 너무 빨리 발전해서 부정적인 결과를 초래할 수 있다는 걱정이 있으신가요? 이를 규제하는 국내법이 있었으면 좋겠습니까? 오늘날에는 AI 사용을 제한하는 새로운 법률이 없으며, 적어도 현재로서는 자율 규제가 AI를 채택하는 기업에게 최선의 선택이 되는 경우가 많습니다.

기술계에서 가장 뜨거운 화두로 '빅데이터'를 '인공지능'이 대체한 지 수년이 지났지만, 2022년 11월 말 ChatGPT 출시로 인공지능 골드러시가 시작되었습니다. 우리를 포함한 많은 AI 관찰자들은 놀랐다. 인간의 언어와 이해를 모방하는 놀라운 능력 덕분에 불과 몇 달 만에 다수의 강력한 생성 AI 모델이 전 세계의 주목을 끌었습니다.

ChatGPT의 출현에 힘입어 주류 문화에서 생성 모델의 놀라운 상승은 이것이 모두 어디로 향하고 있는지에 대한 많은 질문을 제기합니다. 설득력 있는 시와 기발한 예술을 만들어낼 수 있는 인공지능의 놀라운 현상은 소비자 피해와 일자리 손실, 거짓 투옥, 심지어 인류의 파괴에 이르기까지 인공지능의 부정적인 결과에 대한 우려로 자리를 내주고 있습니다.

어떤 사람들은 매우 걱정하고 있습니다. 지난달 AI 연구자 연합은 GPT-4보다 더 큰 새로운 생성 모델 개발에 대해 6개월간 유예를 요청했습니다. 언어 모델(LLM).

튜링상 수상자 요슈아 벤지오(Yoshua Bengio)와 OpenAI 공동 창립자 엘론 머스크(Elon Musk)가 서명한 공개 서한에는 다음과 같은 내용이 나와 있습니다. “안타깝게도 이런 수준의 계획과 관리가 이루어지지 않고 있습니다.”

AI 규제에 대한 요구가 높아지고 있습니다. 여론조사에 따르면 미국인들은 인공지능을 신뢰할 수 없다고 생각하며 특히 자율주행차나 정부 혜택에 대한 접근과 같은 영향력 있는 것들에 대해 규제를 원하고 있는 것으로 나타났습니다.

그러나 AI를 대상으로 한 여러 가지 새로운 지역 법률(예를 들어 채용 및 집행에 AI를 사용하는 것에 초점을 맞춘 뉴욕시 법률이 이번 달까지 지연되고 있음에도 불구하고) 의회는 인공 지능에 대한 새로운 연방 규정이 다가오고 있음을 구체적으로 밝히지 않았습니다. 결승선(AI가 이미 금융 서비스 및 의료와 같이 규제가 엄격한 산업의 법적 영역에 진출했음에도 불구하고).

인공지능에 박차를 가하는 기업은 어떻게 해야 할까요? 기업이 인공지능의 이점을 공유하고 싶어하는 것은 놀라운 일이 아닙니다. 결국, '데이터 중심'이 되고자 하는 충동은 디지털 시대의 생존을 위한 필수 요소로 간주됩니다. 그러나 기업은 또한 AI의 부적절한 사용으로 인해 발생할 수 있는 실제적이든 인지적이든 부정적인 결과를 피하고 싶어합니다.

AI는 “Westworld”에서 야생적입니다. 인공지능 법률 회사인 BNH.AI의 창립자인 Andrew Burt는 "리스크 관리 방법은 아무도 모릅니다. 사람마다 방법이 다릅니다."라고 말했습니다. 즉, 기업이 위험을 관리하는 데 사용할 수 있는 몇 가지 프레임워크가 있습니다. 인공 지능. Burt는 NIST(National Institute of Standards and Technology)에서 제공되고 올해 초 확정된 인공 지능 위험 관리 프레임워크(

RMF: 위험 관리 프레임워크)를 사용할 것을 권장합니다. RMF는 기업이 AI의 작동 방식과 AI가 가져올 수 있는 잠재적인 부정적인 결과에 대해 생각하는 데 도움이 됩니다. 다양한 서비스 제공에서 인공 지능 사용에 따른 위험을 이해하고 궁극적으로 완화하기 위해 "지도 작성, 측정, 관리 및 통제" 접근 방식을 사용합니다.

또 다른 AI 위험 관리 프레임워크는 ORCAA(O'Neil Risk Advisory & Algorithmic Auditing)의 CEO인 Cathy O'Neil이 제공합니다. ORCAA는 “

Explainable Fairness”라는 프레임워크를 제안했습니다. 설명 가능한 공정성은 조직에 알고리즘의 편견을 테스트할 뿐만 아니라 결과의 차이가 감지되면 어떤 일이 발생하는지 연구할 수 있는 방법을 제공합니다. 예를 들어, 은행이 학자금 대출 자격을 결정하는 경우 대출을 승인 또는 거부하거나 더 높거나 낮은 이자를 부과하기 위해 법적으로 어떤 요소를 사용할 수 있습니까?

분명히 은행은 이러한 질문에 답하기 위해 데이터를 사용해야 합니다. 그러나 어떤 데이터를 사용할 수 있습니까? 즉, 대출 신청자를 반영하는 요소는 무엇입니까? 법적으로 사용이 허용되어야 하는 요소와 사용하지 말아야 할 요소는 무엇입니까? 이러한 질문에 답하는 것은 쉽지도 간단하지도 않다고 O'Neil은 말했습니다.

O'Neil은 지난달 Nvidia GPU 기술 컨퍼런스(GTC) 토론에서 다음과 같이 말했습니다. "이 프레임워크의 전부는 이러한 법적 요소가 합법화되어야 한다는 것입니다." 분석 및 AI 소프트웨어 제공업체인 데이터이쿠 AI(Dataiku AI) 책임자인 트리베니 간디는 "새로운 AI 법률이 시행되면 기업은 기존 법률을 준수하기 위해 AI를 공정하고 윤리적으로 구현하는 방법을 스스로 자문해야 한다"고 말했습니다.

“사람들은 생각을 시작해야 합니다. 기존 법률을 어떻게 보고 이를 현재 존재하는 AI 사용 사례에 적용해야 할까요?” “몇 가지 규정이 있지만 고려해야 할 사항도 많습니다. 우리가 인공 지능을 만들고자 하는 것 지능에 대한 윤리적이고 가치 지향적인 접근 방식은 실제로 기업이 포괄적인 규정 없이도 스스로에게 묻기 시작한 질문입니다.

EU는 AI의 잠재적인 피해를 다음과 같이 분류합니다. "임계 피라미드"

EU는 이미 올해 후반에 발효될 자체 규제인 인공지능법을 추진하고 있습니다.

인공 지능 법안은 AI 개발 방법, 기업이 AI를 사용할 수 있는 목적, 요구 사항 미준수에 대한 법률 등 EU 거주자에게 영향을 미치는 인공 지능 사용에 대한 공통 규제 및 법적 프레임워크를 만들 것입니다. 결과적으로. 이 법은 기업이 특정 사용 사례에서 AI를 채택하기 전에 승인을 받도록 요구하고 너무 위험하다고 간주되는 특정 AI 사용을 금지할 수 있습니다.

위 내용은 자율규제는 이제 인공지능의 통제 표준이다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!