Conselho de Ética de IA da Axon

As tecnologias de Inteligência Artificial (IA) representam uma grande promessa de aprimoramento da eficiência da segurança pública. Como uma empresa líder em tecnologia para departamentos de segurança pública, a Axon se orgulha de liderar o caminho do desenvolvimento dessa tecnologia, mas nós acreditamos ter a obrigação de fazer isso de uma maneira responsável. Uma maneira que promova a transparência, com mecanismos integrados de responsabilização. E é isso por isso que criamos um Conselho de Ética em Tecnologia de Policiamento e IA da Axon.

A missão deste conselho independente é promover a diretriz de especialista para a Axon no desenvolvimento de seus produtos e serviços de IA, prestando particular atenção no seu impacto nas comunidades.

Visão geral

Nós nos comprometemos em ser transparentes e responsáveis em como nós usamos a IA e em como nós projetamos tecnologias para a política. Para nos guiar, nós formamos o Conselho de Ética em Tecnologia de Policiamento e IA da Axon. Este conselho consultor externo é constituído de especialistas de diversos campos incluindo IA, ciência de computação, privacidade, segurança pública, liberdades civis e política pública. 

O estatuto do conselho é para nos fornecer uma diretriz sobre o desenvolvimento responsável das tecnologias de polícia e de recursos de IA em seus produtos e serviços, que inclui considerar quando usar e não usar a IA. A função do conselho é nos fornecer aconselhamento franco. Nós reconhecemos que ao nos fornecer consultoria, os membros do conselho não estão endossando nossos produtos ou serviços.

O conjunto de princípios de operação apresentados abaixo destaca como nossa equipe trabalhará com o conselho, destacando nosso compromisso com a transparência e nosso compromisso em fornecer as informações necessárias para o conselho, assim eles podem nos fornecer uma contribuição construtiva. Observe que esses princípios não se destinam a ser exaustivos de toda a nossa responsabilidade e princípios relacionados às tecnologias de IA ou polícia (que serão discutidos nas publicações futuras), mas se referem especificamente à função do conselho. 

Esses princípios demonstram nosso compromisso em elaborar tecnologias de uma maneira responsável e ética. Nós reconhecemos que à medida que nós aprendemos e crescemos e as tecnologias mudam, esses princípios de operação podem evoluir ao longo do tempo, e em tais casos, nós revisaremos o texto dos princípios publicamente e forneceremos uma explicação para tais mudanças. 

Princípios de operação

  1. Ao considerar uma nova aplicação de IA ou tecnologia de policiamento para a qual possa haver riscos éticos substanciais, nós garantiremos que o conselho tenha a oportunidade de discutir seus pros e contras, e como isso pode ser feito de maneira mais ética. Nós discutiremos novos produtos com o conselho antes de lançar um produto que levante questões éticas de forma que ele possa nos fornecer uma diretriz sobre o desenvolvimento do novo produto.
  2. Nós manteremos o conselho informado sobre quais ferramentas nós implementaremos para permitir a supervisão e transparência em relação a como as tecnologias chaves e outras relacionadas estão sendo utilizadas e como essas ferramentas estão operando. Nós construiremos ferramentas e sistemas para permitir a supervisão sobre como essas tecnologias são usadas em campo.
  3. Nós forneceremos informações significativas para o conselho sobre a lógica envolvida na construção de nossos algoritmos. Nós descreveremos claramente nosso pensamento por trás de nossos modelos, o que eles pretendem fazer, formas nas quais eles podem ser desviados de seu uso e nossos esforços para prevenir tais desvios. 
  4. Nós forneceremos uma descrição para o conselho dos dados sobre os quais um modelo foi ou é treinado continuamente. Nós demonstraremos que nós consideramos os vieses potenciais nos dados nos quais um algoritmo foi ou seja continuamente treinado e os pressupostos usados no modelo. Nós explicaremos as etapas tomadas para mitigar quaisquer consequências associadas com o viés ou imprecisão de nossos modelos treinados. 
  5. Nós forneceremos uma lista de todos os dados usados por um algoritmo no tempo de inferência para o conselho. Para cada algoritmo de IA operando e nossos dispositivos ou serviços, nós forneceremos uma lista de seus parâmetros de entrada juntamente com uma descrição para cada parâmetro.
  6. Nós forneceremos para o conselho as medidas que nós temos tomado para garantir os altos níveis de segurança de dados e privacidade. Nossos clientes de segurança pública e suas comunidades precisam estar confiantes de que seus dados são apropriadamente protegidos para atender os requisitos de segurança e privacidade. Nós discutiremos essas medidas com o conselho.

Obediência aos princípios de operação

Para nos manter responsáveis com esses princípios de operação, os dois canais a seguir estão disponíveis para que qualquer pessoa na empresa compartilhe suas dúvidas e preocupações.

  1. Contate o Líder do Conselho de Ética em Tecnologia de Policiamento e IA. O chefe do conselho está fora da cadeia de comando de Equipe de IA. Ele(a) tentará abordar essas questões com a liderança da Axon. O chefe atual é Mike Wagers: mwagers@axon.com
  2. Contate o Ombusperson do Conselho de Ética em Tecnologia de Policiamento e IA externo. A cada ano, o conselho identificará um membro para atuar como um ombudsperson para ouvir quaisquer reclamações da equipe de IA. Essa pessoa trabalhará com outros membros do conselho e com a liderança da Axon para abordar essas questões. O ombudsperson do conselho atual é Tracy Ann Kosa: kosat@seattleu.edu

Pesquisa de IA

Nossa equipe de Pesquisa de IA está trabalhando para diminuir o tempo gasto com burocracia melhorando a eficiência e precisão da elaboração de relatório e análise de informação na aplicação da lei.

Membros do Conselho de Ética de IA

O conselho é constituído de indivíduos de diversos campos para acrescentar diversidade de perspectivas às discussões. Para uma lista completa de membros, veja abaixo:

Dr. Ali Farhadi
 

Dr. Ali Farhadi

Ali Farhadi é um Professor Associado no Departamento de Ciência de Computação e Engenharia na Universidade de Washington. Sua pesquisa tem sido principalmente concentrada na visão de computação e aprendizagem por máquina. Ali também lidera o projeto Plato no Allen Institute for Artificial Intelligence. Sua equipe em IA2 está principalmente concentrada em problemas fundamentais na intersecção da IA e visão de computação. Ele é também o CEO e co-fundador de xno.ai, focando em uma aprendizagem profunda eficiente e incorporada com a meta de fornecer IA onipresente

BARRY FRIEDMAN
 

BARRY FRIEDMAN

Barry Friedman serve como Diretor do Projeto de Policiamento na New York University School of Law, onde ele é Professor de Direito e Professor afiliado de política da Jacob D. Fuchsberg. O Projeto de policiamento é dedicado a reforçar o policiamento através de processos democráticos comuns; ele elabora as melhores práticas e políticas para departamentos de polícia, incluindo sobre questões de tecnologia e vigilância, auxilia com transparência, conduz análise de custo-benefício de práticas de policiamento, e lidera os esforços de engajamento entre departamento de polícia e comunidades. Friedman ensinou, litigou e escreveu sobre lei constitucional, as cortes federais, policiamento e procedimento criminal ao longo de trinta anos. Ele serve como relator para os novos Princípios da Lei e Policiamento do American Law Institute. Friedman é o autor de Unwarranted: Policing Without Permission (Farrar, Straus and Giroux, February 2017), e escreveu diversos artigos em periódicos acadêmicos, incluindo sobre Policiamento democrático e a Quarta emenda. Ele aparece frequentemente na mídia popular, incluindo New York Times, Slate, Huffington Post, Politico e New Republic. Ele também é autor do livreo aclamado pela crítica The Will of the People: How Public Opinion Has Influenced the Supreme Court and Shaped the Meaning of the Constitution (2009). Friedman se formou com méritos pela Universidade de Chicago e recebeu seu diploma de direito magna cum laude do Georgetown University Law Center. Ele foi secretário da juíza Phyllis A. Kravitch da Corte de Apelações dos EUA para o 11º Circuito.

CHRISTY LOPEZ
 

CHRISTY LOPEZ

Christy E. Lopez é professora convidada no Georgetown University Law Center, onde ministra cursos sobre reforma policial e justiça criminal. Ela também co-lidera o Programa de Policiamento inovador de Georgetown, que em 2017 lançou o Police for Tomorrow Fellowship. De 2010-2017, a professora Lopez atuou como Diretora adjunta na Seção de Litígio Especial da Divisão de Direitos Civis nos EUA. Departamento de Justiça. Ela chefiou o Grupo de Prática Policial da Seção, que conduziu investigações de padrão-ou-prática dos departamentos de polícia e outros departamentos; casos relacionados a litígio; e negociou e implementou acordos de estabelecimento de reforma policial. Ela também ajudou a coordenar os esforços abrangentes do Departamento para garantir o policiamento constitucional. Enquanto no Departamento de Justiça dos EUA, Lopez chefiou as investigações de direitos civis de muitos departamentos de polícia, incluindo o Departamento de Polícia de Fergunson. Ela foi a principal elaboradora do Relatório Ferguson e negociadora do decreto de consentimento Ferguson. Ela também chefiou investigações do Departamento de Polícia de Chicago, Departamento de Polícia de New Orleans, Departamento de Polícia de Los Angeles, Departamento de Polícia de Newark (New Jersey), e departamento de polícia, polícia de campus e escritório do procurador de Missoula, Montana. A Professora Lopez obteve seu J.D. da Yale Law School e seu diploma de graduação na University of California em Riverside.
DR. JEREMY GILLULA
 

DR. JEREMY GILLULA

Dr. Gillula iniciou sua carreira acadêmica fazendo pesquisa nos campos de robótica e aprendizado de máquina. Como participante no DARPA Desert Grand Challenge, ele trabalhou em sistemas de visão de computação e sistemas de fusão de sensor para veículos de solo autônomos. Durante seu doutorado, sua pesquisa se concentrou em como projetar algoritmos de controle seguro garantido para sistemas híbridos, com foco em veículos aéreos autônomos. Sua tese abordou o projeto de sistemas de aprendizado de máquina com segurança garantida, concentrando em técnicas de aprendizagem de máquina e teoria de controle.

Desde a conclusão de seu Ph.D, Dr. Gillula voltou sua atenção para a intersecção da tecnologia e questões de liberdades civis, incluindo dispositivos móveis, big data, neutralidade de rede e justiça e transparência algorítmica. Ele presta consultora técnica para advogados e ativistas que trabalham com liberdades civis digitais, e tem participado de uma gama de debates por conferências, grupos convidados e formuladores de política.

Dr. Gillula é Bacharel em Ciência de computação com especialização em Controle e Sistemas Dinâmicos pela Caltech, e um Mestrado e Doutorado em Ciência de computação pela Stanford University.

JIM BUEERMANN
 

JIM BUEERMANN

Jim Bueermann é o Presidente da National Police Foundation com sede em Washington DC, uma organização de pesquisa policial não associada, não partidária mais antiga da América. Ele trabalhou para o Departamento de Polícia de Redlands (CA) por 33 anos onde atuou como Chefe de Polícia e Diretor de alojamento, recreação e Serviços sênior de 1998 até sua aposentadoria em 2011.

KATHLEEN M. O’TOOLE
 

KATHLEEN M. O’TOOLE

Kathleen O’Toole é uma agente policial de carreira e advogada que ganhou reputação internacional por sua liderança baseada em princípios e inovação. Ela recentemente encerrou sua carreira como Chefe de Política em Seattle, Washington onde ela chefiou a organização através de um projeto de reforma maior. Ela anteriormente atuou como Comissária de Política de Boston, Secretária de Segurança Pública de Massachusetts, e Inspetora chefe da Garda Inspectorate na Irlanda. Kathleen é bacharel pelo Boston College, JD na New England School of Lae e é membro da Massachusetts Bar. Em 2018, ela concluiu seu PhD na Business School of Trinity College, Dublin.
MECOLE JORDAN
 

MECOLE JORDAN

Mecole Jordan iniciou carreira não remunerada em 2006, voluntariando-se para uma campanha para reduzir a criminalização de indivíduos com vício em drogas. Ela rapidamente se consolidou no trabalho, supervisionando programas de reentrada e prevenção de violência que forneceu suporte abrangente para jovens que foram presos ou que sofrem risco. Ela posteriormente começou a organizar atividades locais e estaduais, conduzindo e organizando treinamento de igualdade racial para comunidades e pais envolvidos na reforma da educação. Ela adquiriu experiência significativa trabalhando e construindo coalizões de base ampla para esforços de reforma local e estadual, particularmente em torno de Reforma de política e Igualdade racial.
MILES BRUNDAGE
 

MILES BRUNDAGE

Miles Brundage é pesquisador na University of Oxford's Future of Humanity Institute. Ele pesquisa os desafios de governança associados com inteligência artificial (IA), especialmente aqueles relacionados ao impacto da IA na segurança. Recentemente, Brandage foi autor chefe de um relatório, “O uso malicioso de Inteligência artificial: Previsão, Prevenção e Mitigação”, que recebeu ampla cobertura de notícias e foi citado pelo Congresso dos EUA e Parlamento do Reino Unido. Brundage publicou amplamente em anais de conferência, periódicos, livros e revistas em uma gama de tópicos relacionados a IA. Suas publicações incluem uma análise do campo de aprendizagem de reforço profunda (uma área de pesquisa em IA), um quadro proposto para responsabilidade no desenvolvimento de IA, e uma análise de desafios associados à incorporação dos sistemas de IA com valores humanos. Antes de iniciar seu trabalho em IA e governança em 2012, Brundage atuou por dois anos como Assistente Especial para o Diretor da Agência de Projetos de Pesquisa Avançada - Energia (ARPA-E) e Assistente Especial para o Subsecretário de Energia do Departamento de Energia dos EUA. Além de sua posição de pesquisa em Oxford, Brundage é Ph.D. candidato em Dimensões Humanas e Sociais de Ciência e Tecnologia na Arizona State University, e atua na equipe editorial do Periódico de Inovação Responsável.
DR. TRACY ANN KOSA
 

DR. TRACY ANN KOSA

Tracy Ann Kosa é um pesquisador de privacidade na Stanford University e professor adjunto na Seattle University Faculty of Law. Seu trabalho atual propõe padrões de privacidade para fiscalização e atividades regulatórias. Dr. Kosa desempenhou diversas atividades de liderança em privacidade na Microsoft e no governo. Ela possui doutorado em ciência de computação (privacidade), mestrado em ética e política pública e graduação em economia e ciência política.
CHIEF VERA BUMPERS
 

CHIEF VERA BUMPERS

Chief Vera Bumpers tem atuado com o Departamento de Polícia Metropolitana de Houston por mais de 30 anos e atualmente lidera uma equipe de 194 pessoas juramentadas e 93 pessoas não juramentadas. Ela foi pioneira, tornando-se a primeira mulher a ser promovida em todas as funções no Departamento.

Chief Bumpers recebeu um diploma de bacharel em ciências na Texas State University e Mestrado na Prairie View A&M University. Ela se formou na 230º sessão do FBI National Academy em Quantico, Virgínia. Chief Bumpers foi reconhecida em 2016 como uma das 50 melhores profissionais e empreendedoras negras e foi destaque no Jornal Afro Americano e Houston Women Magazine.

Chief Bumpers é presidente do Conselho Consultivo da Academia de Polícia da Faculdade Comunitária de Houston, membro da Associação Internacional de Chefes de Polícia, Associação de Chefes de Polícia do Texas, Associação de Chefes de Polícia da Área de Houston, Organização Nacional de Executivos de Polícia Negra, Associação de Oficiais de Comando da Polícia Hispano-Americana, Associação Nacional de Executivas de Polícia Feminina, do Seminário sobre Transporte Feminino, Delta Sigma Theta Sorority e Links Incorporated.

SHERIFF WALT MCNEIL
 

SHERIFF WALT MCNEIL

Walter. A. McNeil foi eleito Xerife do Condado de Leon em novembro de 2016. Em sua distinta carreira de 35 anos como servidor público, Walter McNeil liderou a luta contra o crime em Tallahassee, foi escolhido para liderar dois departamentos estaduais sob o ex-governador. Charlie Crist, prestou consultoria para a Casa Branca de Obama e outros governos ao redor do mundo sobre estratégias e táticas de segurança pública. Durante esse período como Secretário de correções, ele implementou o primeiro programa de reentrada de prisão da Flórida,reduzindo a taxa de reincidência de presidiários em quase 5%.

Por dez anos no comando do Departamento de Polícia de Tallahassee, o Chefe McNeil foi reconhecido por sua voz progressiva e sua resposta efetiva às questões de cidadania. Seus esforços de policiamento de comunidade lhe renderam diversas homenagens, incluindo o Prêmio Humanitário Tallahassee NAACP, Pessoa de Negócios do Ano do Setor Público e Prêmio DEA dos Estados Unidos.

Chief McNeil também atuou no grupo consultor que se encontrou com o vice-presidente Biden para discutir a violência por arma de fogo e foi eleito Presidente da Associação Internacional dos Chefes de Polícia.