위험을 밝히다: SEC Gary Gensler, AI의 잠재적 함정에 대한 새로운 시각 설정

미국(US) 증권거래위원회(SEC) 게리 겐슬러(Gary Gensler) 의장은 2019년 12월 인공지능(AI)과 암호화폐 시장의 영역을 탐구했습니다.어제 National Press Club에서 한 연설 .

그에 따르면 AI는 "우리 시대의 가장 변혁적인 기술"로 우뚝 섰습니다. 인터넷의 혁명적 영향과 자동차의 대량 생산에 필적합니다. 그러나 이러한 생각을 자극하는 관점에는 반전이 있습니다. 엄격한 규제 기관이라는 명성에도 불구하고 최근 "암호화 단속"을 감독하면서 그는 AI가 시장에 미치는 영향에 대해 의구심을 품고 있습니다.

AI 분야의 급속한 발전으로 관련 개발 및 위험에 대한 우려가 커지고 있습니다. 놀랍게도 2023년 7월 19일 상원 세출 위원회에 참석하기 전에 Gary가 출석할 예정입니다. 이 출석 기간 동안 그는 SEC의 2024 회계연도 예산에 대한 위원회의 검토에 대해 연설할 것입니다.

Crypto를 따라가는 것이 작동하지 않으면 다음으로 AI를 따라가십시오.
암호 화폐에 대한 확고한 입장과 "앞으로 나아가 준수"에 대한 확고한 약속으로 유명한 Gary SEC의 전략이 큰 주목을 받았습니다. 그러나 최근 SEC에 상당한 차질을 빚은 Analisa Torres 판사의 Ripple 대 SEC 소송 판결을 감안할 때 그의 모멘텀이 무너진 것처럼 보였고 그가 또 다른 산업인 AI에 대한 새로운 시각을 설정한 것처럼 느껴집니다.

그는 어렴풋이 드러나는 "중요한" 문제를 조명합니다. 노동 시장의 변화와 AI 시스템 개발에서 패권을 다투는 미국과 중국 간의 경쟁 심화. 그러나 이러한 우려는 앞으로 닥칠 잠재적인 문제의 표면에 불과합니다.

데이터 및 컴퓨팅 성능에 대한 수요 증가에 비추어 Gary는 현장에서 몇 가지 기술 플랫폼의 잠재적 우위에 대한 중요한 우려도 제기했습니다. 제한된 수의 플랫폼이 우세한 이 시나리오는 다양한 AI 모델을 찾는 기업에게 중요한 과제를 제기합니다. AI 모델이 부정확하거나 관련 없는 정보를 제공하는 경우 금융 기관은 결함이 있는 데이터를 채택하여 결과적으로 잘못된 결정을 내릴 위험이 있습니다. 그에 따르면 이는 2008년 금융위기 당시 은행들이 신용평가사를 맹목적으로 따랐거나 실리콘밸리 은행을 겨냥한 트위터 열풍을 연상시킨다.

“AI는 기본 모델이나 데이터 수집기에서 동일한 신호를 받고 있기 때문에 유사한 결정을 내리는 개별 행위자와 함께 군중을 조장할 수 있기 때문에 재정적 취약성을 높일 수 있습니다. 이것은 단일 문화를 장려할 수 있습니다.”

게리의 통찰은 집단 행동이 주식 시장 붕괴에 미치는 영향을 고려할 때 강력하게 공감합니다. 주목할만한2001년 프린스턴 대학교 경제학 교수인 Markus Konrad Brunnermeier가 수행한 연구 , 이러한 무리 행동이 이러한 시장 침체를 설명하는 데 중요한 역할을 한다는 것을 확립했습니다.

추가적으로, 보다 최근헝가리 Pécs 대학의 Asad Ayoub와 Ayman Balawi가 2022년에 실시한 연구 이 개념을 더욱 확고히 하여 약세장과 강세장 모두에서 목축 행동이 주가에 영향을 미친다는 것을 확인했습니다. 이러한 발견에 비추어, 그는 소수의 지배적인 기술 회사가 AI 환경을 지배하게 되면 이러한 집단 행동이 잠재적으로 악화될 수 있다는 우려를 표명하면서 경고를 발표했습니다.

금융 분야의 생성 AI
AI 시스템은 오랫동안 금융 부문의 다양한 측면에 통합되었습니다. 특히 보험 회사와 채권자는 금융 데이터를 분석하기 위해 알고리즘과 자연어 처리 기능을 활용하여 대출 금액에 대한 정보에 입각한 결정을 내리는 데 도움을 주었습니다. 또한 무역 회사는 AI 기술을 활용하여 사기를 신속하게 식별하고 시장 신호를 감지하여 컴퓨터 화면을 응시하는 인간 관찰자의 능력을 능가합니다.

이러한 맥락에서 Gary는 대규모 언어 모델(LLM)을 "우리 시대의 가장 변혁적인 기술"로 간주하면서 그의 관심을 끌었습니다. 그러나 이러한 시스템이 반드시 동일한 위험을 초래하거나 동일한 질문을 유발하는 것은 아니지만 그의 발언이 때때로 이 특정 범주의 AI 기술을 더 넓은 AI 영역과 혼동한다는 점에 유의하는 것이 중요합니다. 또한 그는 LLM의 하위 집합인 생성 AI가 아직 금융 업계에서 널리 채택되지 않았다는 점을 인정합니다.

“하나 또는 소수의 AI 플랫폼이 지배적일 가능성은 재정 안정성과 관련된 문제를 제기합니다...MIT에서 Lily Bailey와 저는 이러한 문제 중 일부에 대해 '딥 러닝 및 재정 안정성'이라는 논문을 썼습니다. 생성 AI 모델의 최근 발전으로 인해 이러한 문제가 발생할 가능성이 더 높아졌습니다.”

AI는 사람을 대체할 잠재력이 있습니까?
Gary는 계속해서 데이터 개인 정보 보호 및 지적 재산권에 AI를 구현함으로써 발생하는 중요한 문제와 같은 다른 주요 문제를 강조했습니다. 특히 그는 현재 진행 중인 할리우드 작가와 배우들에게 이목을 집중시켰다. 바로 이러한 문제를 해결하고자 하는 파업입니다. 파업에 가담한 작가들은 배상금 분쟁과 예능 제작에 인공지능(AI)을 활용하는 것에 대해 우려를 표하고 있다.

그는 개인으로서 우리 모두가 AI 모델의 매개변수를 훈련하는 데 기여한다는 점을 인정했으며, 이는 "누구의 데이터입니까?"라는 중요한 질문으로 이어집니다. 이 논쟁적인 논쟁은 진행 상황을 면밀히 모니터링하겠다는 약속을 강조한 SEC 의장이 언급한 바와 같이 현재 진행 중입니다.

“SEC의 과제는 자본 시장의 중심에서 지배적인 기본 계층이 될 수 있는 것에 직면하여 경쟁적이고 효율적인 시장을 촉진하는 것입니다. 경쟁, 투명성, 시장에 대한 공정한 접근을 계속 촉진할 수 있도록 이를 면밀히 평가해야 한다고 생각합니다.”

그는 아이러니한 해결책을 제시했다
SEC 의장은 위험 관리 도구에만 의존하는 것은 첨단 AI 도구가 미국과 글로벌 금융 시스템에 가하는 위험을 완화하기에는 불충분하다고 주장합니다. 또한 "데이터 분석의 새로운 물결"의 획기적인 발전에 직면하여 기존 가드레일은 시대에 뒤떨어졌습니다.

"AI가 미래에 제기할 수 있는 금융 안정성에 대한 많은 문제는 시스템 전체 또는 거시 건전성 정책 개입에 대한 새로운 사고를 요구할 것입니다."

아이러니하게도 Gary는 현 시대의 규제를 개선하기 위한 흥미로운 제안을 내놓았습니다. 그 자체로 예상치 못한 솔루션인 AI입니다.

"과제를 인식하는 동안 SEC의 우리는 시장 감시, 공개 검토, 시험, 집행 및 경제 분석에서 AI를 더 많이 사용하는 직원으로부터 이익을 얻을 수 있습니다."