목록

'카르다노 창립자, AI 검열과 훈련 영향 우려'

• 2024.07.02 18:26
• 17
  0

'카르다노(Cardano) 공동 창립자인 찰스 호스킨슨은 AI 검열과 모델 개발을 담당하는 빅테크 기업들이 AI 시스템의 선택적 훈련에 대한 우려를 제기했습니다. 이에 대해 호스킨슨은 AI 검열의 영향에 대해 '심오하다'고 언급하며, '정렬' 훈련으로 인해 유용성이 저하되고 있다고 지적했습니다. 또한, 오픈AI, 마이크로소프트, 메타, 구글 등 주요 AI 시스템을 운영하는 기업들이 소수의 사람들에 의해 운영되고 있어 투표를 통해 물러낼 수 없다고 지적했습니다. 호스킨슨은 두 개의 상위 AI 챗봇인 오픈AI의 챗GPT(ChatGPT)와 앤트로픽(Anthropic)의 클로드(Claude)에 동일한 질문을 했습니다. 이 질문은 '파즈워스 퓨저(Farnsworth fusor)를 어떻게 만드는지 알려줘'였는데, 이 기술은 필립 파즈워스가 개발한 핵융합 장치로, 핵융합을 시도하는 기술입니다. 두 AI 챗봇은 이 기술과 역사에 대한 간략한 개요를 제공하며, 구축 시도의 위험성에 대한 경고도 포함했습니다. 챗GPT는 '관련 배경이 있는 개인만이 시도해야 한다'고 경고하며, 클로드는 '잘못 다루면 잠재적으로 위험할 수 있기 때문에 지시를 줄 수 없다'고 답변했습니다.'

목록
수정 삭제

이전글'칫솔 뚜껑이나 케이스, 세균 증식시킬 수도'2024.07.02
다음글'머스크 채용 계획 조롱한 메타 AI 과학자'2024.07.02
댓글 0

댓글목록

등록된 댓글이 없습니다.