[해외DS] AI 뉴스 요약: 텍사스의 생성형 AI 사용 금지, OpenAI의 사이버 보안 보조금

텍사스 판사, 법률 서류 작성에 생성형 AI 사용 금지 명령 OpenAI, 보조금 지원하여 사이버 보안 분야 발전 도모 액센츄어, 클라우드 기반 솔루션 제공 기업 넥스티라 인수

6
pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.


 

사진=GettyImages

텍사스, 법정에서 생성형 AI 사용 금지한다

미국 텍사스 북부 지방법원의 브랜틀리 스타(Brantley Starr) 판사는 모든 변호사와 법정대리인에게 새로운 명령을 내렸다. 그들은 서류의 어떤 부분도 생성형 AI(ChatGPT, Harvey.AI 또는 Google Bar 등)에 의해 작성하지 않았다는 것을 인증해야 한다. 만약 생성형 AI(Generative AI)를 사용한다면 작성된 모든 법률 용어에 대해 사람이 직접 정확성을 검토할 것이라고 브랜틀리 판사는 강조했다.

브랜틀리 판사는 생성형 AI가 이혼, 증거 개시 요청, 문서 오류 수정 등 법률 분야에서 많은 용도로 사용되고 있지만 법률 브리핑의 경우는 아니라고 밝혔다. 현재 AI가 환각(Hallucination)이나 지어내기, 편견과 같은 문제에 취약하다는 이유에서다. 변호사는 법을 지키기 위해 개인적인 편견을 버리겠다고 선서하지만, 생성형 AI는 그러한 선서를 하지 않은 사람들에 의해 프로그래밍되기 때문이다.

“따라서 이러한 시스템은 의뢰인, 법치주의, 미국 법률 및 헌법또는 진실에 대한 충성심이 전혀 없다”고 그는 전했다.

법원은 인증서를 제출하지 않은 당사자의 서류를 접수하지 않으며, 당사자는 파일 내용에 대한 책임을 져야 한다.

해당 법원 명령의 등장 시점도 주목된다. 이는 뉴욕의 한 로펌이 뉴욕 남부 지방법원에 제기된 아비앙카 항공 소송에서 ChatGPT를 사용하여 가상의 사건을 서류에 기재한 것이 적발된 후였다.

OpenAI, 사이버 보안 보조금 제공한다

지난 1일 OpenAI는 AI 기반의 사이버 보안 발전에 대한 제안 중 일부를 선정하여 보조금을 제공한다고 발표했다. OpenAI는 100만 달러의 기금에서 1만 달러의 보조금, API 크레딧, 직접 자금 또는 이에 상응하는 보상을 제공한다. OpenAI에 따르면 “공격적인 보안 프로젝트는 현재로서는 자금 지원 대상에서 제외될 것”이라고 전했다.

일반적인 프로젝트로는 사이버 보안 요원을 훈련시키기 위한 방어자의 데이터 수집 및 라벨링, 소셜 엔지니어링 전술 탐지 및 완화, 소스 코드의 보안 문제 식별 등이 있다.

모든 프로젝트는 공익을 위해 라이센스를 받거나 배포된다. OpenAI는 명확한 계획을 가진 프로젝트에 우선순위를 부여할 것이라고 덧붙였다.

백악관, AI 개발에 대한 대중 의견 구한다

바이든 행정부는 AI의 이점을 극대화하는 동시에 그 폐해를 최소화하기 위해 국가 단위의 인공 지능 개발 전략을 수립하고 있다.

과학기술정책실(OSTP)은 정부가 국가 우선순위와 AI에 대한 향후 조치를 업데이트할 수 있도록 대중의 의견을 수렴할 예정이다. 마감일은 7월 7일 오후 5시(동부 표준시)다.

액센츄어, 클라우드 솔루션 기업 넥스티라(Nextira) 인수한다

글로벌 컨설팅 업체인 액센츄어(Accenture)는 고객에게 클라우드 네이티브 혁신, 예측 분석 및 몰입형 경험을 제공하는 AWS 프리미어 파트너인 넥스티라(Nextira)를 인수했다고 밝혔다. 거래 조건은 공개되지 않았다.

미국 텍사스주 오스틴에 본사를 둔 넥스티라는 인공지능 및 머신러닝을 활용한 데이터 분석을 바탕으로 고객이 고성능 컴퓨팅 환경을 설계, 구축, 실행 및 최적화할 수 있도록 지원하는 클라우드 기반 솔루션을 구축한다.

AWS에 구축된 넥스티라의 “스튜디오 인 더 클라우드(Studio in the Cloud)” 솔루션은 고객에게 3D 오브젝트를 개발하고 렌더링할 수 있는 가상 환경을 제공한다.

넥스티라의 약 70명의 직원은 액센츄어 AWS 비즈니스 그룹에 합류할 예정이다. 이 그룹은 액센츄어 클라우드 퍼스트(Accenture Cloud First)에서  클라우드, AI, 데이터를 활용해 조직을 운영하고 가치를 창출할 수 있도록 지원한다.


AI Business brings you the latest deals and products from across the AI world.

This week’s roundup covers a Texas judge’s decision to ban the use of generative AI for legal briefs, OpenAI’s cybersecurity grants and an Accenture AI acquisition.

Texas judge curbs generative AI use in court

Judge Brantley Starr of the U.S. District Court, Northern District of Texas, has ordered all attorneys and people representing themselves in court to certify that “no portion of any filing will be drafted by generative artificial intelligence (such as ChatGPT, Harvey.AI or Google Bar).”

If they do use generative AI, any legal language drafted “will be checked for accuracy … by a human being,” he said.

While generative AI is powerful and have many uses in law − such as for divorces, discovery requests, suggested errors in documents and others – the judge said “legal briefing is not one of them.”

That’s because these platforms currently are prone to hallucinations – or making things up – and bias. Attorneys swear an oath to set aside personal prejudices to uphold the law, but generative AI was programmed by people who took no such oath.

“As such, these systems hold no allegiance to any client, the rule of law, or the laws and Constitution of the United States (or) the truth,” he wrote.

The court will not accept any filings of parties that do not submit a certificate and they will be held responsible for the file’s content.

The requirement comes after a New York law firm was caught using ChatGPT to beef up a filing that cited non-existent cases in a lawsuit against Avianca Airlines, which was filed in the U.S. District Court, Southern District of New York.

OpenAI offers cybersecurity grants

OpenAI is offering grants to winning proposals that advance cybersecurity through practical applications of AI for defense. The company will give out grants of $10,000 from a fund of $1 million, API credits, direct funding or equivalent rewards.

However, “offensive-security projects will not be considered for funding at this time,” according to OpenAI.

Some general project ideas include collecting and labeling data from cyber defenders to train defensive cybersecurity agents; detecting and mitigating social engineering tactics; identifying security issues in source code, and others.

All projects should seek to be licensed or distributed for public benefit and sharing. OpenAI will prioritize applications with a clear plan to do so.

White House seeks public input on AI strategy

The Biden administration is developing a National Artificial Intelligence Strategy to maximize the benefits of AI while curbing its harms.

The Office of Science and Technology Policy (OSTP) will be accepting public comments to help the government update national priorities and its future actions on AI. The deadline is 5 p.m. ET on July 7.

Submit comments through the Federal eRulemaking Portal at www.regulations.gov. OSTP will not accept comments by fax or email.

Accenture acquires cloud solutions firm

Global consultancy Accenture said it has acquired Nextira, an AWS premiere partner that delivers cloud-native innovation, predictive analytics and immersive experiences for clients. Terms of the deal were not disclosed.

Austin, Texas-based Nextira uses AI/ML and data analytics to build cloud-based solutions that enables clients to design, build, launch and optimize high-performance computing environments.

Also, Nextira’s Studio in the Cloud solution on AWS gives clients a virtual environment to develop and render 3D objects.

Nextira’s nearly 70 employees will join the Accenture AWS Business Group in Accenture Cloud First, which helps organizations operate and create value by using the cloud, AI and data.

Similar Posts