O juiz federal do Distrito Norte do Texas, Brantley Starr, determinou que somente submissões escritas ou revisadas por humanos podem ser apresentadas em sua sala de audiência, excluindo as elaboradas por inteligência artificial generativa, a menos que sejam verificadas por um humano. Os advogados devem apresentar certificados que atestem que suas apresentações não contêm submissões da IA ou que tenham sido checadas por um ser humano para garantir a precisão. A nova exigência se aplica a qualquer idioma utilizado na apresentação, incluindo citações, paráfrases e análises legais.
Embora as plataformas de IA possam ter muitos usos na lei, como em divórcios formais, solicitações de descoberta e erros sugeridos em documentos, a redação legal não é uma das habilidades dessas ferramentas devido à tendência de alucinações e viés. A nova ordem de Starr surgiu após um advogado de Nova York admitir ter usado o ChatGPT para escrever apresentações judiciais que citavam seis casos inexistentes inventados pela IA, o que pode resultar em punições pelo juiz Kevin Castel no Tribunal do Distrito dos EUA para o Distrito Sul de Nova York.
Starr discutiu os preconceitos potenciais nas ferramentas de IA, afirmando que tais programas são desprovidos de dever, honra ou justiça, agindo de acordo com o código do computador em vez de convicção ou princípios. A partir de agora, o tribunal rejeitará qualquer apresentação de um advogado que não apresentar um certificado atestando que leu os requisitos específicos do juiz e que será responsável pelo conteúdo de quaisquer apresentações assinadas e enviadas ao Tribunal pelo advogado, independentemente de a inteligência artificial generativa ter elaborado qualquer parte dessa apresentação.
Juiz federal no Texas proíbe submissões escritas por IA em sua sala de audiência |
---|
Novo requisito específico do juiz Brantley Starr exige que advogados apresentem certificados atestando que suas apresentações são escritas ou revisadas por humanos |
Advogados devem arquivar um certificado para cada caso, abrangendo todas as apresentações no caso, incluindo citações, paráfrases e análises legais |
Starr reconhece os usos poderosos da IA na lei, mas afirma que a redação legal não é um deles, devido à propensão das plataformas de IA para alucinações e viés |
Ordem de Starr surge após advogado admitir ter usado ChatGPT para escrever apresentações judiciais que citavam casos inexistentes inventados pela ferramenta de IA |
Starr discute preconceitos potenciais em ferramentas de IA e afirma que sistemas de IA não são leais a nenhum cliente, à regra da lei ou às leis e Constituição dos Estados Unidos |
Ordem de Starr afirma que o tribunal rejeitará qualquer apresentação de um advogado que deixar de apresentar um certificado no registro atestando que entende e seguirá os requisitos específicos do juiz |
Com informações do site Ars Technica.