wordy
tech
Beware Of AI-Generated Misinformation About April’s Total Solar Eclipse, Experts Warn
Jamie Carter
Words in contents
  • eclipse
    n. 일식, 월식
    It’s a question that will be asked a lot online in the coming months as the U.S., Canada and Mexico countdown to a rare total solar eclipse on Monday, April 8, 2024.
    이것은 미국, 캐나다, 멕시코가 2024년 4월 8일 월요일에 드물게 발생하는 총 일식을 카운트다운하면서 다가오는 몇 달 동안 온라인에서 많이 물어볼 질문이다.
  • potentially
    adv. 잠재적으로
    It is, however, a potentially confusing event, both in terms of what can be experienced and how safe or otherwise it is to look at.
    그러나 이것은 경험할 수 있는 것과 안전하게 볼 수 있는지 여부에 대해 잠재적으로 혼란스러운 이벤트입니다.
  • misleading
    adj. 오해를 살 수 있는, 진실을 왜곡하는
    Expect more misleading AI-produced articles like this to spread as interest in the total solar eclipse rises.
    총 일식에 대한 관심이 높아짐에 따라 이러한 오해의 소지가 있는 AI 작성 기사가 더 많이 퍼질 것으로 예상한다.
  • onus
    n. 책임
    The onus lies with readers to only read eclipse articles from trusted titles that contain precise information with links back to original sources and that quote credentialed experts in science and community eclipse planning.
    독자들에게는 오로지 신뢰할 수 있는 제목의 일식 관련 기사만 읽고, 원 출처로의 링크와 정확한 정보를 포함하며, 과학과 커뮤니티 일식 계획에 대한 전문가의 견해를 인용해야 하는 책임이 있다.
  • credentials
    n. 자격
    The onus lies with readers to only read eclipse articles from trusted titles that contain precise information with links back to original sources and that quote credentialed experts in science and community eclipse planning.
    독자들에게는 오로지 신뢰할 수 있는 제목의 일식 관련 기사만 읽고, 원 출처로의 링크와 정확한 정보를 포함하며, 과학과 커뮤니티 일식 계획에 대한 전문가의 견해를 인용해야 하는 책임이 있다.
    The salary range can vary significantly and depends on a number of crucial aspects, including schooling, credentials, additional talents, and length of service in a particular field.
    급여 범위는 학교 교육, 자격, 추가적인 재능, 특정 분야에서의 근무 기간 등 여러 중요한 요소에 따라 크게 달라질 수 있습니다.
  • misinformation
    n. 잘못된 정보
    The issue at the core of the problem is depressingly familiar to experts in any subject: the internet’s demise from the sum of all human knowledge to a den of misinformation.
    문제의 핵심에 대한 이슈는 모든 주제의 전문가에게 우울하게 친숙합니다: 인터넷은 모든 인간 지식의 합에서 잘못된 정보의 동굴로 퇴보하고 있습니다.
  • caveat
    n. 주의
    The contract has a caveat that allows either party to terminate it with 30 days' notice.
    해당 계약에는 양측이 30일 전에 양도를 종료할 수 있는 주의조항이 포함되어 있다.
  • chatbots
    n. 챗봇
    For example, ask Chat GPT “Is it safe to look at a total solar eclipse?” and it answers: “No, it is not safe to look directly at a total solar eclipse without proper eye protection.
    예를 들어, 챗 GPT에게 '총 일식을 바라보는 것이 안전한가요?'라고 물으면, 그것은 '아니요, 적절한 눈 보호 없이 총 일식을 직접 바라보는 것은 안전하지 않습니다.'라고 대답합니다.
Contents
Beware Of AI-Generated Misinformation About April’s Total Solar Eclipse, Experts Warn

Is it safe to look at a total solar n. 일식, 월식eclipse? It’s a question that will be asked a lot online in the coming months as the U.S., Canada and Mexico countdown to a rare total solar n. 일식, 월식eclipse on Monday, April 8, 2024.

It is, however, a adv. 잠재적으로potentially confusing event, both in terms of what can be experienced and how safe or otherwise it is to look at. While the entire national will see a partial solar n. 일식, 월식eclipse—for which solar n. 일식, 월식eclipse glasses are required at all times—those in the narrow path of totality will be able to remove their solar n. 일식, 월식eclipses glasses mid-way through the event, when it gets dark.

Unfortunately, artificial intelligence—and its associated n. 챗봇chatbots and large language models—is woefully inadequate to explain the complexities to a public that needs accurate expert information.

Beware AI-Generated Content

Take this article, entitled “Why shouldn’t we go out during eclipse?” which appears to be have been produced using AI. It states that: “Looking directly at the sun during an eclipse, even for a short period, can lead to severe eye damage, including permanent vision loss.” That’s true for a partial solar eclipse but not for the totality period of a total solar eclipse.

In fact, removing your solar n. 일식, 월식eclipse glasses to look naked-eye at the sun and its majestic corona during totality is the whole point of traveling to be inside the 115-mile wide path of totality on April 8. To make matters worse, this adj. 오해를 살 수 있는, 진실을 왜곡하는misleading article cites NASA, the American Astronomical Society, and the Royal Astronomical Society, though only in its footnotes.

Spreading n. 잘못된 정보Misinformation

Expect more misleading AI-produced articles like this to spread as interest in the total solar eclipse rises. “AI-generated articles often not only promote misinformation but also purport to cite reputable sources like the American Astronomical Society or NASA as they do so,” said Debra Ross, Chair, Rochester Task Force for Eclipse 2024 and Co-chair, AAS Solar Eclipse Task Force, in an email. “As always, the public should be suspicious of clickbait titles and sensationalistic claims from questionable media outlets.”

The n. 책임onus lies with readers to only read n. 일식, 월식eclipse articles from trusted titles that contain precise information with links back to original sources and that quote credentialed experts in science and community n. 일식, 월식eclipse planning.

Exception For Totality

The issue at the core of the problem is depressingly familiar to experts in any subject: the internet’s demise from the sum of all human knowledge to a den of n. 잘못된 정보misinformation. The large language models behind AI have been trained on what they find on the internet, which is so often wrong. Almost every article on solar n. 일식, 월식eclipse eye safety says: “Never look at the sun without eye protection.” Very few say: “Except during the total phase of a total solar n. 일식, 월식eclipse, never look at the sun without eye protection.”

“The version of the warning, with the exception for totality, is the correct version, but only a small minority of websites—the most authoritative ones—include the caveat,” said Rick Fienberg at the American Astronomical Society’s AAS Solar Eclipse Task Force. “So if an AI program sees hundreds of warnings without the caveat and only a handful with it, they naturally ‘think’ that the former are correct and the latter incorrect.”

n. 챗봇Chatbots And n. 일식, 월식Eclipses

For example, ask Chat GPT “Is it safe to look at a total solar n. 일식, 월식eclipse?” and it answers: “No, it is not safe to look directly at a total solar n. 일식, 월식eclipse without proper eye protection.” Follow-up with “what about during totality?” and it does then reveal the truth, stating that “during the brief period of totality, in a total solar n. 일식, 월식eclipse, when the moon completely covers the sun, it is generally safe to look at the sun with a naked eye.”

So it gets there in the end, but only after a few prompts, which is likely to lead to confusion this spring.

개기 일식을 보는 것이 안전한가요? 2024년 4월 8일(월) 미국, 캐나다, 멕시코에서 희귀한 개기일식을 앞두고 앞으로 몇 달 동안 온라인에서 많은 질문을 받게 될 질문입니다.

그러나 개기일식은 무엇을 경험할 수 있는지, 얼마나 안전한지, 또는 보는 것이 안전한지 등 여러 측면에서 잠재적으로 혼란스러운 이벤트입니다. 전 국민이 개기일식 안경을 착용해야 하는 부분일식을 볼 수 있지만, 개기일식의 좁은 경로에 있는 사람들은 개기일식이 진행되는 도중에 어두워지면 일식 안경을 벗을 수 있습니다.

안타깝게도 인공 지능과 관련 챗봇 및 대규모 언어 모델은 정확한 전문가 정보가 필요한 대중에게 복잡한 상황을 설명하기에는 턱없이 부족합니다.

인공지능으로 생성된 콘텐츠에 주의하세요.

"일식 기간에 외출하면 안 되는 이유"라는 제목의 이 기사를 예로 들면, 이 기사는 AI를 사용하여 제작된 것으로 보입니다. 이 기사에는 다음과 같은 내용이 담겨 있습니다: "일식 기간 동안 짧은 시간이라도 태양을 직접 바라보면 영구적인 시력 상실을 포함한 심각한 눈 손상이 발생할 수 있습니다." 이는 부분일식의 경우에는 해당되지만 개기일식의 전체 기간에는 해당되지 않습니다.

사실 개기일식 기간 동안 개기일식 안경을 벗고 태양과 그 장엄한 코로나를 맨눈으로 보는 것은 4월 8일에 115마일 너비의 개기일식 경로 안으로 들어가기 위한 여행의 전부입니다. 설상가상으로 이 오해의 소지가 있는 기사는 NASA, 미국천문학회, 영국왕립천문학회를 각주로만 인용하고 있습니다.

오류 정보 확산

개기일식에 대한 관심이 높아짐에 따라 이와 같이 오해의 소지가 있는 AI 제작 기사가 더 많이 확산될 것으로 예상됩니다. "AI가 생성한 기사는 잘못된 정보를 조장할 뿐만 아니라 미국천문학회나 NASA와 같은 공신력 있는 출처를 인용한 것처럼 주장하는 경우가 많습니다." 2024 개기일식 태스크포스의 의장 겸 AAS 일식 태스크포스 공동의장인 데브라 로스(Debra Ross)가 이메일을 통해 밝힌 내용입니다. "언제나 그렇듯이 대중은 의심스러운 언론 매체의 클릭베이트 제목과 선정적인 주장에 대해 의심을 가져야 합니다."

독자들은 신뢰할 수 있는 제목의 일식 기사만 읽어야 하며, 정확한 정보와 함께 원본 출처로 연결되는 링크가 있고 과학 및 커뮤니티 일식 계획에 대한 자격을 갖춘 전문가의 말을 인용하는 기사를 읽어야 합니다.

전체일식 예외

문제의 핵심은 모든 분야의 전문가들에게 우울할 정도로 익숙한 문제, 즉 인터넷이 모든 인간 지식의 총합에서 잘못된 정보의 소굴로 전락하고 있다는 것입니다. 인공지능의 기반이 되는 대규모 언어 모델은 인터넷에서 검색한 내용을 바탕으로 학습되었기 때문에 잘못된 경우가 많습니다. 일식 눈 안전에 관한 거의 모든 기사는 "눈 보호 장비 없이 태양을 쳐다보지 마세요"라고 말합니다. 이렇게 말하는 사람은 거의 없습니다: "개기일식이 완전히 진행되는 동안을 제외하고는 절대로 눈 보호 장비 없이 태양을 쳐다보지 마십시오."라고 말하는 경우는 거의 없습니다.

미국천문학회 AAS 일식 태스크포스의 릭 피엔버그는 "개기일식을 제외하고는 이 경고문이 올바른 버전이지만, 가장 권위 있는 웹사이트 중 극소수만 이 경고문을 포함하고 있다"고 말합니다. "따라서 인공지능 프로그램이 경고문이 없는 수백 개의 경고문과 경고문이 있는 몇 개의 경고문만 본다면, 자연스럽게 전자는 옳고 후자는 틀렸다고 '생각'하게 됩니다."

챗봇과 이클립스

예를 들어, "개기일식을 보는 것이 안전한가요?"라고 Chat GPT에 질문하면 다음과 같이 대답합니다: "아니요, 적절한 눈 보호 장치 없이 개기일식을 직접 보는 것은 안전하지 않습니다." 라고 대답합니다. 이어서 "개기일식 중에는 어떻게 되나요?"라고 질문하면 "개기일식 중 달이 태양을 완전히 가리는 짧은 시간 동안에는 일반적으로 육안으로 태양을 보는 것이 안전합니다."라고 대답합니다.

결국 개기일식은 몇 번의 프롬프트를 거쳐야만 볼 수 있어 올봄에는 혼란을 겪을 것으로 보입니다.

Quiz
  1. Q. 다음 중 글의 내용과 일치하는 것을 고르시오.
  2. Q. 다음 중 오해를 불러일으키는 불성실한 AI 기사에 대한 글쓴이의 견해를 가장 잘 나타내는 것은 무엇입니까?
  3. Q. 일식을 맨 눈으로 볼 수 있는 시기는 언제인가요?