AI와 관련된 우려 사항은 무엇이며 경고 중 일부는 '말도 안 되는' 내용입니까?

Aug 21, 2023

한 전문가는 스카이 뉴스에 AI로 인한 피해 가능성에 "주의를 기울이는 것"이 ​​중요하다고 말하며 정부가 해당 기술을 안전한 방식으로 규제하는 방법을 알고 있는지 "불분명"하다고 주장합니다.

뉴스기자 @OliveLineham

2023년 5월 30일 화요일 20:08, 영국

인공지능(AI)의 급속한 성장은 사회와 국회의원뿐만 아니라 AI 개발의 중심에 있는 일부 기술 리더들 사이에서도 우려를 불러일으키고 있습니다.

등 일부 전문가들은'AI의 대부' 제프리 힌튼, AI가 비슷한 포즈를 취한다고 경고했습니다.전염병과 핵전쟁으로 인한 인류 멸종의 위험.

ChatGPT 회사의 사장부터 Google의 AI 연구소 책임자까지 350명이 넘는 사람들이 "AI의 멸종 위험"을 완화하는 것이 "글로벌 우선순위"가 되어야 한다고 말했습니다.

AI는 엑스레이, 스캔, 초음파와 같은 의료 이미지를 분석하는 알고리즘과 같은 생명을 구하는 작업을 수행할 수 있지만, AI의 빠르게 성장하는 기능과 점점 더 널리 사용되는 사례는 우려를 불러일으켰습니다.

우리는 몇 가지 주요 사항을 살펴보고 비평가들이 이러한 두려움 중 일부가 너무 심하다고 말하는 이유를 살펴봅니다.

허위정보 및 AI로 변경된 이미지

AI 앱은 유명인과 정치인의 가짜 이미지를 게시하는 사용자와 ChatGPT 및 기타 "언어 학습 모델"을 사용하여 대학 수준의 에세이를 작성하는 학생들이 등장하면서 소셜 미디어 사이트에서 입소문이 났습니다.

하나일반적인AI와 그 개발에 대한 우려는 AI가 생성한 잘못된 정보와 그것이 온라인에서 어떻게 혼란을 초래할 수 있는지입니다.

영국 과학자 스튜어트 러셀(Stuart Russell) 교수는 가장 큰 우려 사항 중 하나가 허위 정보와 이른바 딥페이크라고 말했습니다.

얼굴이나 신체가 디지털 방식으로 변조되어 다른 사람처럼 보이는 인물의 동영상이나 사진입니다. 일반적으로 악의적으로 사용되거나 허위 정보를 퍼뜨리는 데 사용됩니다.

보다 접근하기 쉬운 비디오 플레이어를 위해 Chrome 브라우저를 사용하십시오

러셀 교수는 "선전" 목적으로 허위 정보가 오랫동안 존재했지만 이제 차이점은 소피 리지(Sophy Ridge)를 예로 들어 온라인 챗봇 GPT-4에게 그녀를 "조작"하도록 요청할 수 있다는 점이라고 말했습니다. "우크라이나에 대한 덜 지지적".

지난 주에는 가짜 이미지가펜타곤 근처에서 폭발이 일어난 것으로 나타났습니다잠시 소셜 미디어에 입소문이 났고 사실 확인 담당자와 지역 소방서는 이 주장에 맞서기 위해 안간힘을 썼습니다.

미국 국방부 본부 옆에 거대한 검은 연기 구름을 보여주고 있다고 주장하는 해당 이미지는 AI 기술을 이용해 제작된 것으로 나타났다.

이 내용은 트위터에 처음 게시되었으며 확인되었지만 가짜인 뉴스 계정을 통해 빠르게 재유포되었습니다. 그러나 사실 확인 결과 미 국방부에서 폭발이 없었다는 사실이 곧 입증되었습니다.

그러나 몇 가지 조치가 취해지고 있습니다. 지난 11월 정부는 동의 없이 음란물 '딥페이크'를 공유하는 것이 새로운 법안에 따라 범죄가 될 것임을 확인했습니다.

인간의 지능을 뛰어넘다

AI 시스템에는 기계에 의한 인간 지능 프로세스의 시뮬레이션이 포함됩니다. 하지만 인간의 통제를 넘어서는 수준까지 발전할 수 있는 위험이 있습니까?

옥스퍼드 대학의 앤드루 브릭스(Andrew Briggs) 교수는 스카이뉴스와의 인터뷰에서 기계가 더욱 강력해짐에 따라 인간의 능력을 초과하는 날이 "올지도 모른다"는 우려가 있다고 말했다.

보다 접근하기 쉬운 비디오 플레이어를 위해 Chrome 브라우저를 사용하십시오

그는 "현재 기계가 최적화하도록 프로그래밍되어 있는 것이 무엇이든 인간이 선택하며 해를 끼치도록 선택하거나 선을 위해 선택될 수 있습니다. 현재 그것을 결정하는 것은 인간입니다."라고 말했습니다.

"두려운 점은 기계가 점점 더 지능적이고 강력해짐에 따라 용량이 인간의 용량을 훨씬 초과하고 인간이 기계가 최적화하려는 것을 제어할 수 있는 능력을 상실하는 날이 올 수 있다는 것입니다."

더 읽어보기:GPT-4란 무엇이며 어떻게 개선되었나요?