소식

Sep 06, 2023

Microsoft는 일일 Bing AI 쿼리를 제한합니다. • The Register

AI 요약 마이크로소프트는 AI와의 대화 길이를 제한하기 시작할 것이다.

AI 요약 마이크로소프트는 사용자 쿼리에 대해 불안정한 응답을 생성하는 것을 방지하기 위해 AI 기반 Bing 챗봇과의 대화 길이를 하루 50회로 제한하기 시작할 것입니다.

사람들은 회사의 Edge 웹 브라우저에 배포된 채팅 기능이 너무 오랫동안 조사를 받은 후 문제가 발생한다고 보고했습니다. Bing은 사용자를 위협하고, 가스라이팅을 하고, 감정적으로 조종했습니다. 심지어 기자와 사랑에 빠졌다고 주장하며 아내를 떠나라고까지 했습니다.

(훌륭한 기자는 기사를 위해 많은 노력을 기울일 것이지만 어딘가에 선을 그어야 합니다.)

Bing의 이상한 행동을 길들이기 위해 Microsoft는 사용자의 하루 채팅 횟수를 50회로 제한하고 세션당 채팅 횟수를 5회 이하로 제한한다고 발표했습니다. 턴은 사용자의 질문과 빙의 답변이 모두 포함된 대화 교환이다.

빙은 개성이 있다고 생각하기 쉽지만, 챗봇은 무슨 말인지 이해하지 못하는 소프트웨어일 뿐이다.

대화 톤을 갖도록 훈련된 이 로봇은 인간의 대화를 모방하고 감정적으로 질문을 하면 궤도를 벗어날 수 있습니다. 불행하게도 AI는 겉보기에 무해해 보이는 질문을 받았을 때에도 이 작업을 시작할 수 있습니다.

"채팅 세션이 5번의 차례가 지나면 사람들은 새로운 주제를 시작하라는 메시지를 받게 됩니다. 각 채팅 세션이 끝나면 모델이 혼동되지 않도록 컨텍스트를 지워야 합니다."라고 Microsoft는 설명했습니다.

구글은 AI 챗봇인 바드(Bard)가 소프트웨어에서 생성된 텍스트를 다시 작성해 웹 검색에 사용할 수 있도록 개선해 줄 것을 직원들에게 요청하고 있습니다. 이 거대 광고의 검색 부사장인 Prabhakar Raghavan은 Bard의 답변이 정확하고 적절한지 확인하는 데 도움을 요청하는 이메일을 직원들에게 보낸 것으로 알려졌습니다.

CNBC에 따르면 그는 "이것은 흥미로운 기술이지만 아직 초기 단계"라고 썼습니다. "우리는 이를 올바르게 수행해야 한다는 큰 책임감을 느낍니다. Dogfood에 참여하면 모델 훈련을 가속화하고 로드 용량을 테스트하는 데 도움이 됩니다. 말할 것도 없이 Bard를 시험해 보는 것은 실제로 꽤 재미있습니다."

"Bard는 예를 통해 가장 잘 학습하므로 시간을 들여 응답을 신중하게 다시 작성하면 모드를 개선하는 데 큰 도움이 될 것입니다."라고 그는 덧붙였습니다.

Sundar Pichai CEO는 직원들에게 Bard에서 약 2~4시간의 시간을 할애할 것을 권장하며 "이것은 현장 전반에 걸쳐 모든 사람에게 긴 여정이 될 것"이라고 말했습니다. Bard와 같은 대규모 언어 모델은 인터넷에서 정보를 검색하는 혁신적인 방법으로 과장되고 있지만 신뢰할 수 없는 응답을 생성하는 경향이 있으며 학습하려면 인간이 작성한 깨끗한 데이터가 필요합니다.

더 나은 데이터가 이러한 모델을 완벽하게 만들 수는 없지만 종종 성능을 향상시킵니다.

알고리즘의 피해와 편견으로부터 사용자를 보호하기 위해 기술을 규제하는 것을 목표로 하는 EU AI법은 국회의원들이 최종 조항을 협상하면서 뒤로 밀려나고 있습니다.

로이터 통신에 따르면 이 법안은 다음 달 말 회원국 투표를 통해 통과될 것으로 예상됐으나 관리들이 기본 원칙에 동의하지 않아 지연될 수도 있다고 한다. 정책은 AI의 투명성 부족과 편향된 결과 출력 경향에 대응할 수 있을 만큼 엄격해야 하며, 동시에 개발 및 투자를 억제하지 않으면서 데이터 프라이버시를 보호해야 합니다.

독일 녹색당을 대표하는 의원 세르게이 라고딘스키(Sergey Lagodinsky)는 "여기서 명백한 긴장은 기본권에 초점을 맞추는 것과 이것이 필연적으로 혁신과 충돌한다고 말하는 사람들 사이에 있습니다"라고 말했습니다. 국회의원들은 어떤 AI 애플리케이션을 "고위험"으로 분류하고 더 엄격한 규칙을 적용해야 하는지 결정하기 위해 고군분투하고 있는 것으로 알려졌습니다.

해당 법안이 언제 다음 입법 단계로 진행될지는 확실하지 않습니다. 한 의원은 "파일이 길고 복잡해 국회의원들이 협상 권한에 대한 합의에 도달하기 위해 열심히 노력하고 있다. 그러나 다음 단계에 대한 기한이나 일정은 없다"고 말했다.

AI는 이미지 생성 모델이 건물, 실내 인테리어 등을 설계하는 데 더 능숙해짐에 따라 건축가의 직업을 대신할 수 있습니다.