O seu prefeito está usando ChatGPT? Veja como fazer FOIA e descobrir

No ano passado, Nate Sanford apresentou uma história boba para o semanário alternativo Inlander de Spokane sobre um senador estadual entrando em uma discussão no Twitter com um spambot pornográfico de IA . O bot acabou sendo suspenso depois que o prefeito de Spokane denunciou a conta.

Mas um funcionário municipal mencionou a Sanford, agora repórter da KNKX e da Cascade PBS, que eles estavam testando ferramentas de IA no trabalho. Esse comentário improvisado despertou a curiosidade de Sanford sobre como os governos locais estavam realmente usando inteligência artificial generativa e levou a uma série de investigações que revelou como os chatbots são incorporando-se silenciosamente na máquina do governo local .

Sanford usou extensos registros públicos de registros do ChatGPT e do Microsoft Copilot de funcionários municipais para mostrar, entre outras coisas, que o projeto de política de IA da cidade de Bellingham foi escrito com a ajuda do ChatGPT.

Fico entusiasmado quando vejo um uso intrigante da FOIA para desmistificar o governo local. E liderando o trabalho de IA do Poynter você pode imaginar como fiquei surpreso quando vi as investigações de Sanford.

madelyn cline namorados

Aqui está como eles começam :

Quando a Nação Lummi solicitou financiamento para contratar um coordenador de vítimas de crimes no ano passado, o prefeito de Bellingham, Kim Lund, enviou uma carta incentivando o Departamento de Comércio de Washington a conceder à nação uma subvenção estatal.

A Nação Lummi tem uma forte história de liderança comunitária e um profundo compromisso com o bem-estar de seus membros, dizia a carta. A adição de um Coordenador aumentará a capacidade da Nação Lummi de enfrentar a violência e apoiar as vítimas de uma forma significativa e culturalmente apropriada.

Mas não foi a prefeita quem escreveu essas palavras. ChatGPT fez.

Os registros mostram que o assistente de Lund inseriu o pedido de propostas do Departamento de Comércio no chatbot de inteligência artificial e pediu que escrevesse a carta para ela. Por favor, inclua alguns fatos sobre a violência nas comunidades nativas nos Estados Unidos ou no estado de Washington, em particular, ela acrescentou em seu prompt.

As histórias destacam a necessidade de alfabetização em IA à medida que a tecnologia se incorpora mais profundamente em nossas vidas, mesmo de maneiras que talvez nunca vejamos. Então, entrei em contato com Sanford por e-mail para descobrir por que e como ele usou a Lei de Liberdade de Informação para obter registros do ChatGPT e o que eles dizem sobre o rumo que estamos tomando.

Alex Mahadevan: Então, por que você pensou em FOIA para logs do chatbot? Você recebeu uma dica? Apenas curioso?

Nate Sanford: Depois da história do spambot pornográfico, fiz algumas pesquisas on-line para ver se era possível usar solicitações de registros para obter mais informações sobre o uso de IA do governo local. Encontrei uma postagem de alguém no MuckRock que tentou solicitar registros de IA ao departamento de polícia local. Fui inspirado a tentar algo semelhante para ver o que aconteceria com os líderes do governo da cidade de Washington.

Acabei preenchendo solicitações de registros em busca de registros de chatbots de quase uma dúzia de cidades em Washington. Eu estava apenas testando o sistema para ver se era possível.

Mahadevan: Qual foi a reação do zelador? Demorou muito para conseguir o que queria?

Sanford: Variava de acordo com a cidade. Muitos exigiram muitas idas e vindas. Ficou claro que a maioria das jurisdições nunca tinha lidado com este tipo de pedido antes.

Recebi uma ligação de um oficial de registros que queria saber mais sobre o que eu estava procurando e como eles poderiam ajudar. Eles disseram que foi a primeira vez que atenderam a uma solicitação desse tipo e não tinham certeza de como processá-la. Recebi perguntas semelhantes de vários oficiais de registros.

Mahadevan: Você ficou surpreso por eles terem concordado? Surpreso por eles terem mantido os registros? 

martyn eaden

Sanford: Eu realmente não tinha certeza do que esperar.

A história que publiquei acabou focando em duas cidades de Washington: Bellingham e Everett. Acabamos nos concentrando nessas cidades porque eram as mais rápidas e respondiam melhor à minha solicitação de registros. Eles não são necessariamente discrepantes no uso da IA.

Bellingham e Everett merecem muito crédito por agirem de boa fé e por fazerem o melhor para fornecer uma resposta abrangente à minha (muito demorada) solicitação de registros. Algumas cidades não têm sido tão cooperativas ou transparentes. Estou ciente de que esse tipo de solicitação é amplo e um grande incentivo para os responsáveis ​​pelos registros e os respondentes. Mas também acho que é importante para a transparência. Os cidadãos têm o direito de saber como os seus representantes utilizam estas ferramentas.

Mahadevan: Você ficou surpreso com o uso generalizado do ChatGPT que encontrou?

Sanford: Eu sabia que a tecnologia estava difundida no setor privado. Eu esperava que também estivesse presente no governo, mas realmente não esperava que fosse tão difundido. Eu não tinha ouvido nenhuma comunicação pública dos governos sobre como ou se eles iriam usá-lo.

Mahadevan: Quais dicas você daria a outro repórter local que deseja fazer a mesma coisa?

Sanford: Quando tentei preencher essas solicitações de registros pela primeira vez, tentei solicitar registros de bate-papo de todos os chatbots de IA que a equipe da cidade usou. Os oficiais de registros me disseram que isso era muito vago e expansivo. Para simplificar acabei limitando as solicitações ao ChatGPT, o chatbot mais popular do mundo.

Solicitar logs do ChatGPT foi proveitoso, mas daqui para frente acho que solicitar logs de chat do Copilot será ainda mais valioso. A Microsoft disponibilizou seu chatbot para clientes governamentais no início deste ano e muitas jurisdições agora estão instruindo a equipe a usar apenas o Copilot. Eu recomendo que os repórteres procurem os registros do Copilot e também do ChatGPT. (Dependendo de quanto tempo você tiver, também pode valer a pena preencher solicitações adicionais de registros de Claude Grok, etc.)

Quando comecei a preencher solicitações, alguns funcionários municipais responderam simplesmente fazendo capturas de tela de todas as conversas do ChatGPT que tiveram – às vezes em seus telefones celulares. Isso foi incrivelmente caótico e difícil de resolver. Isso também significava que eu não conseguia ver a data em que as mensagens foram enviadas ou a ordem em que deveriam estar.

Para facilitar as coisas, comecei a pedir aos oficiais de registro que enviassem instruções aos funcionários da cidade sobre como exportar seus históricos do ChatGPT para uma pasta compactada. O formato de arquivo .ZIP é ideal porque oferece:

Os carimbos de data estão no horário Unix, então você precisará usar um conversor online gratuito para decifrá-los.

Se a solicitação demorar um pouco, eu recomendo ligar para os oficiais de registro para explicar o que você está procurando e perguntar como você pode ajudar a tornar o trabalho deles mais fácil. As cidades que responderam melhor ao meu pedido até agora – Bellingham e Everett – responderam enviando um e-mail para literalmente todos os funcionários da cidade, pedindo-lhes que entregassem seu histórico do ChatGPT. Demorou cerca de cinco meses para eles fecharem o pedido.

O volume de registros retornados em resposta às minhas solicitações foi de . Eu recomendo que os repórteres descubram um sistema de gerenciamento de arquivos que funcione para eles desde o início, para que não percam o controle dos documentos. Organizei as coisas tirando uma captura de tela de cada mensagem interessante que encontrei e salvando essas capturas de tela em um grupo de pastas da área de trabalho organizadas por cidade/tópico. A maioria dos registros de bate-papo voltou como arquivos HTML que permitem pesquisar palavras-chave.

jake devito

Mahadevan: Como eram seus pedidos?

Sanford: Aqui está um modelo. Eu recomendo restringir um pouco o escopo se você estiver procurando por algo específico e esperando obter uma resposta mais rápida.

De acordo com a Lei de Registros Públicos de Washington, estou solicitando os seguintes registros:

Históricos de bate-papo de todas as sessões ChatGPT conduzidas por funcionários municipais em dispositivos de propriedade da cidade ou usados ​​em funções relacionadas ao trabalho nos seguintes departamentos: Câmara Municipal Gabinete do Prefeito Polícia Procurador Municipal Obras Públicas Tecnologia da Informação TKTKTK e TKTKT.

O prazo para esta solicitação é 06/01/2023 até a data em que esta solicitação for processada. Os documentos solicitados serão disponibilizados ao público em geral e esta solicitação não está sendo feita para fins comerciais. Por favor, disponibilize os registros em parcelas, pois eles estão prontos para lançamento.

Se for útil, compartilhe com os entrevistados as seguintes instruções para exportar históricos do ChatGPT:

Mahadevan: Algum registro de bate-papo interessante que não apareceu na história?

Sanford: Eram tantos!

Acho que o rascunho original que entreguei tinha quase 10.000 palavras. Sou grato aos meus editores por me ajudarem a cortá-lo.

Havia muitas pequenas coisas bobas. Houve também muitos exemplos realmente interessantes que esclareceram como os líderes municipais estão pensando sobre diversas questões políticas. Foi esclarecedor ver quais tópicos surgiram com mais frequência. (Washington tem uma enorme crise imobiliária e houve numerosos exemplos de autoridades que pediram conselhos ao ChatGPT sobre como aumentar a acessibilidade da habitação.)

Muitos bate-papos continham informações pessoais confidenciais que eram realmente interessantes, mas não necessariamente interessantes o suficiente para serem publicadas.

Existem alguns registros de bate-papo que estamos guardando porque levantam questões jurídicas e exigem mais relatórios antes de podermos publicá-los.

Mahadevan: Que tipo de recepção você recebeu da comunidade?

Sanford: A recepção tem sido muito positiva! É claro que a maioria das pessoas não tinha ideia de que os líderes do governo local estavam usando a IA dessa forma. A história motivou editoriais de jornais em ambos Bellingham e Everett apelando aos líderes das cidades para abordarem a IA com mais cautela.

A IA generativa é uma tecnologia tão nova que não há consenso real sobre quais deveriam ser as normas. Importa que o assistente do prefeito tenha usado o ChatGPT para escrever uma carta a um parlamentar? Ou que a equipe de comunicação o utilizou para responder a e-mails de eleitores? Ouvimos muitos leitores que estão chateados com isso, mas também ouvimos pessoas que dizem que não se importam. Acho que ambas as perspectivas são válidas. É realmente interessante ver as pessoas lutando para saber onde deveria estar a linha.

É claro que os governos locais têm experimentado esta tecnologia há algum tempo, mas não tem havido muita discussão pública sobre o assunto. Fico feliz em ver que a história gerou um debate realmente robusto.

kevin james hoje

Também ouvi muitos repórteres em redações de todo o país que planejam copiar a solicitação de registros em suas respectivas jurisdições.

Mahadevan: Tem algum outro acompanhamento planejado?

Sanford: Tenho vários acompanhamentos planejados. Continuo recebendo regularmente novas parcelas de outras jurisdições de Washington. Obtivemos alguns registros de bate-papo específicos que exigem mais relatórios antes de podermos publicá-los.

Mahadevan: Você pessoalmente usa IA generativa para alguma coisa?

Sanford: Não é uma IA tecnicamente generativa, mas uso o Otter.ai todos os dias para transcrever entrevistas. É extremamente útil.

Experimentei o ChatGPT para gerar ideias de títulos, mas não fiquei muito impressionado com nenhuma de suas sugestões. Achei útil para algumas questões relacionadas a informática/codificação, mas não me sinto confortável em usá-lo para escrever.

Acho que provavelmente existem maneiras pelas quais a IA generativa pode ser útil para as redações, mas ainda estou bastante cauteloso com isso. Estou preocupado com a precisão, a confiança pública e o plágio.