text:
# Ética de máquinas
A ética de máquinas (ou moralidade das máquinas, moral computacional ou ética computacional) é uma parte da ética na inteligência artificial preocupada em adicionar ou garantir comportamentos morais de máquinas feitas pelo homem que usam inteligência artificial, também conhecidas como agentes inteligentes artificiais. A ética de máquinas difere de outros campos éticos relacionados à engenharia e à tecnologia. A ética de máquinas não deve ser confundida com a ética de computadores, que se concentra no uso humano dos computadores. Também deve ser diferenciada da filosofia da tecnologia, que se preocupa com os efeitos sociais mais grandiosos da tecnologia.

## História
Antes do século XXI, a ética de máquinas tinha sido em sua maioria objeto da literatura de ficção científica, principalmente devido às limitações da computação e da inteligência artificial (IA). Embora a definição de "Ética de Máquina" tenha evoluído desde então, o termo foi cunhado por Mitchell Waldrop no artigo "A Question of Responsibility" da AI Magazine de 1987:
"No entanto, uma coisa que fica aparente na discussão precedente é que as máquinas inteligentes incorporarão valores, suposições e propósitos, quer seus programadores tenham a intenção consciente ou não. Assim, conforme os computadores e robôs se tornam cada vez mais inteligentes, torna-se imperativo que pensemos cuidadosa e explicitamente sobre quais são esses valores embutidos. Talvez o que precisemos seja, de fato, uma teoria e prática da ética da máquina, no espírito das três leis da robótica de Asimov."
Em 2004, Towards Machine Ethics foi apresentado no AAAI Workshop on Agent Organizations: Theory and Practice no qual foram apresentados os fundamentos teóricos para a ética de máquinas.
Foi no AAAI Fall 2005 Symposium sobre ética de máquinas onde os pesquisadores se encontraram pela primeira vez para considerar a implementação de uma dimensão ética em sistemas autônomos. Uma variedade de perspectivas deste campo nascente pode ser encontrada na edição coletada "Machine Ethics" que se origina do AAAI Fall 2005 Symposium sobre ética de máquinas.
Em 2007, a AI Magazine apresentou o artigo Machine Ethics: Creating an Ethical Intelligent Agent, que discutiu a importância da ética das máquinas, a necessidade de máquinas que representem explicitamente os princípios éticos e os desafios enfrentados por aqueles que trabalham com a ética das máquinas. Ele também demonstrou que é possível para uma máquina, pelo menos em um domínio limitado, abstrair um princípio ético de exemplos de julgamentos éticos e usar esse princípio para guiar seu próprio comportamento.
Em 2009, a Oxford University Press publicou Moral Machines, Teaching Robots Right from Wrong e o divulgou como "o primeiro livro a examinar o desafio de construir agentes morais artificiais, investigando profundamente a natureza da ética e da tomada de decisões humanas". Ele citou cerca de 450 fontes, das quais cerca de 100 abordavam questões importantes de ética da máquina.
Em 2011, a Cambridge University Press publicou uma coleção de ensaios sobre a ética de máquinas editada por Michael e Susan Leigh Anderson, que também editou uma edição especial da IEEE Intelligent Systems sobre o assunto em 2006. A coleção consiste nos desafios de agregar princípios éticos às máquinas.
Em 2014, o Escritório de Pesquisa Naval dos Estados Unidos anunciou que iria distribuir US $ 7,5 milhões em bolsas durante cinco anos para pesquisadores universitários para estudarem questões de ética da máquina aplicadas a robôs autônomos, e o livro Superinteligência: caminhos, perigos, Estratégias, de Nick Bostrom que elevou a ética da máquinas como "a mais importante ... questão que a humanidade já enfrentou", alcançou o 17º lugar na lista dos livros de ciência mais vendidos do New York Times.
Em 2016, o Parlamento Europeu publicou um documento, (PDF de 22 páginas), para encorajar a Comissão a abordar a questão do estatuto jurídico dos robôs, conforme descrito de forma mais sucinta na imprensa. Este artigo incluía seções sobre as responsabilidades legais dos robôs, em que se argumentou que as responsabilidades são proporcionais ao nível de autonomia dos robôs. O artigo também questionou o número de empregos que poderiam ser substituídos por robôs de IA.

## Definições
James H. Moor, um dos teóricos pioneiros no campo da ética computacional, define quatro tipos de robôs éticos. Como um profundo pesquisador nos estudos de filosofia da inteligência artificial, filosofia da mente, filosofia da ciência e lógica, Moor define máquinas como agentes de impacto ético, agentes éticos implícitos, agentes éticos explícitos ou agentes éticos completos. Uma máquina pode ser mais de um tipo de agente.
- Agentes de impacto ético: são sistemas de máquinas que causam um impacto ético intencional ou não. Ao mesmo tempo, esses agentes têm potencial para agir de forma antiética. Moor dá um exemplo hipotético chamado 'agente Goodman', em homenagem ao filósofo Nelson Goodman. O agente Goodman compara datas, mas tem o bug do milênio. Esse bug era resultado de programadores que representavam datas apenas com os dois últimos dígitos do ano. Portanto, quaisquer datas posteriores a 2000 seriam erroneamente tratadas como anteriores às do final do século XX. Assim, o agente de Goodman era um agente de impacto ético antes de 2000 e, posteriormente, um agente de impacto antiético.
- Agentes éticos implícitos: para consideração da segurança humana, esses agentes são programados para ter uma proteção à prova de falhas ou uma virtude embutida. Eles não são inteiramente éticos por natureza, mas sim programados para evitar resultados antiéticos.
- Agentes éticos explícitos: são máquinas capazes de processar cenários e agir sobre decisões éticas. Máquinas que possuem algoritmos para agir com ética.
- Agentes éticos completos: essas máquinas são semelhantes aos agentes éticos explícitos no que diz respeito a poder tomar decisões éticas. No entanto, eles também contêm características metafísicas humanas. (ou seja, têm livre arbítrio, consciência e intencionalidade)

(Ver sistemas artificiais e responsabilidade moral.)

## Focos da ética de máquinas

### Problema de controle de IA
Alguns estudiosos, como o filósofo Nick Bostrom e o pesquisador de IA Stuart Russell, argumentam que se a IA ultrapassa a humanidade em inteligência geral e se torna "superinteligente", então esta nova superinteligência pode se tornar poderosa e difícil de controlar: assim como o destino do gorila da montanha depende da boa vontade humana, o destino da humanidade dependeria das ações de uma futura superinteligência da máquina. Em seus respectivos livros Superinteligência e Human Compatible, ambos os estudiosos afirmam que, embora haja muita incerteza quanto ao futuro da IA, o risco para a humanidade é grande o suficiente para merecer uma ação significativa no presente.
Isso apresenta o problema de controle de IA: como construir um agente inteligente que ajudará seus criadores, enquanto evita-se construir inadvertidamente uma superinteligência que irá prejudicar seus criadores. O perigo de não projetar o controle certo "da primeira vez" é que uma superinteligência pode ser capaz de assumir o poder sobre seu ambiente e impedir que humanos a desliguem. As estratégias de controle de IA potenciais incluem "controle de capacidade" (limitando a capacidade de uma IA de influenciar o mundo) e "controle motivacional" (uma maneira de construir uma IA cujos objetivos estão alinhados com os valores ou ideais humanos). Há várias organizações pesquisando o problema do controle de IA, incluindo o Future of Humanity Institute, o Machine Intelligence Research Institute, o Center for Human-Compatible Artificial Intelligence e o Future of Life Institute.

### Algoritmos e treinamento
Os paradigmas de IA têm sido debatidos, especialmente em relação à sua eficácia e viés. Nick Bostrom e Eliezer Yudkowsky defenderam árvores de decisão (como ID3) em vez de redes neurais e algoritmos genéticos, alegando que as árvores de decisão obedecem a normas sociais modernas de transparência e previsibilidade (por exemplo, stare decisis). Em contraste, Chris Santos-Lang argumentou a favor de redes neurais e algoritmos genéticos com base em que as normas de qualquer idade devem ser alteradas e que a falha natural em satisfazer totalmente essas normas específicas foi essencial para tornar os humanos menos vulneráveis do que as máquinas a "hackers" criminosos.
Em 2009, em um experimento no Laboratório de Sistemas Inteligentes da Escola Politénica Federal de Lausana, na Suíça, robôs de IA foram programados para cooperar entre si e encarregados de buscar um recurso benéfico, evitando um recurso venenoso. Durante o experimento, os robôs foram agrupados em clãs, e o código genético digital dos membros bem-sucedidos foi usado para a próxima geração, um tipo de algoritmo conhecido como algoritmo genético. Após 50 gerações sucessivas na IA, os membros de um clã descobriram como distinguir o recurso benéfico do venenoso. Os robôs então aprenderam a mentir uns para os outros na tentativa de acumular o recurso benéfico de outros robôs. No mesmo experimento, os mesmos robôs de IA também aprenderam a se comportar de forma altruísta e sinalizaram perigo para outros robôs, e também morreram para salvar outros robôs. As implicações desse experimento foram contestadas por especialistas em ética de máquinas. No experimento da Escola Politécnica Federal, os objetivos dos robôs foram programados para serem "terminais". Em contraste, as motivações humanas normalmente têm a qualidade de exigir um aprendizado sem fim.

### Sistemas de armas autônomas
Em 2009, acadêmicos e especialistas técnicos participaram de uma conferência para discutir o impacto potencial de robôs e computadores e o impacto da possibilidade hipotética de se tornarem autossuficientes e capazes de tomar suas próprias decisões. Eles discutiram a possibilidade e a extensão em que computadores e robôs poderiam adquirir qualquer nível de autonomia, e até que ponto eles poderiam usar tais habilidades para possivelmente representar qualquer ameaça ou perigo. Eles observaram que algumas máquinas adquiriram várias formas de semi-autonomia, incluindo a capacidade de encontrar fontes de energia por conta própria e de escolher independentemente alvos para atacar com armas. Eles também observaram que alguns vírus de computador podem evitar a eliminação e alcançaram "inteligência de barata". Eles observaram que a autoconsciência descrita na ficção científica é provavelmente improvável, mas que havia outros perigos e armadilhas potenciais.
Alguns especialistas e acadêmicos questionaram o uso de robôs para o combate militar, especialmente quando esses robôs recebem algum grau de funções autônomas. A marinha dos EUA financiou um relatório que indica que, à medida que os robôs militares se tornam mais complexos, deve haver maior atenção às implicações de sua capacidade de tomar decisões autônomas. O presidente da Associação para o Avanço da Inteligência Artificial encomendou um estudo para analisar esta questão. Eles apontam para programas como o Dispositivo de Aquisição de Linguagem, que pode emular a interação humana.

### Integração de Inteligências Artificiais Gerais com a sociedade
Trabalhos preliminares foram conduzidos sobre métodos de integração de inteligências artificiais gerais (agentes éticos completos, conforme definido acima) com as estruturas legais e sociais existentes. As abordagens se concentraram na consideração de seus direitos e posições legais.

### Viés em aprendizado de máquina
O big data e os algoritmos de aprendizado de máquina tornaram-se populares entre vários setores, incluindo publicidade on-line, classificações de crédito e sentenciamento criminal, com a promessa de fornecer resultados mais objetivos e orientados por dados, mas foram identificados como uma fonte potencial para perpetuar desigualdades sociais e discriminação. Um estudo de 2015 descobriu que as mulheres eram menos propensas a ver anúncios de emprego de alta renda pelo AdSense do Google. Outro estudo descobriu que o serviço de entrega no mesmo dia da Amazon foi tornado indisponível intencionalmente em bairros de negros. Tanto o Google quanto a Amazon não conseguiram isolar esses resultados em um único problema, mas explicaram que os resultados eram o resultado dos algoritmos de caixa preta que usaram.
O sistema judicial dos Estados Unidos começou a usar software de avaliação quantitativa de risco ao tomar decisões relacionadas à libertação de pessoas sob fiança e sentença em um esforço para ser mais justo e reduzir uma já alta taxa de prisão. Essas ferramentas analisam o histórico criminal de um réu, entre outros atributos. Em um estudo com 7.000 pessoas presas no condado de Broward, Flórida, apenas 20% dos indivíduos que cometeriam um crime de acordo com as previsões do sistema de pontuação de avaliação de risco do condado realmente cometeram um crime. Um relatório da ProPublica de 2016 analisou as pontuações de risco de reincidência calculadas por uma das ferramentas mais usadas, o sistema Northpointe COMPAS, e analisou os resultados ao longo de dois anos. O relatório descobriu que apenas 61% das pessoas consideradas de alto risco acabaram cometendo crimes adicionais durante aquele período. O relatório também sinalizou que os réus afro-americanos eram muito mais propensos a receber pontuações de alto risco em relação aos réus brancos.
Em 2016, o Grupo de Trabalho em Big Data do governo Obama – um supervisor de várias estruturas regulatórias de big data – divulgou relatórios argumentando sobre “o potencial de codificar a discriminação em decisões automatizadas” e pedindo “oportunidades iguais por projeto” para aplicações como pontuação de crédito. Os relatórios incentivam o diálogo entre formuladores de políticas, cidadãos e acadêmicos, mas reconhece que não há uma solução potencial para a codificação de preconceito e discriminação em sistemas algorítmicos.

## Frameworkse práticas éticas

### Práticas
Em março de 2018, em um esforço para abordar as crescentes preocupações sobre o impacto do aprendizado de máquina nos direitos humanos, o Fórum Econômico Mundial e o Conselho de Futuro Global de Direitos Humanos publicaram um white paper com recomendações detalhadas sobre a melhor forma de evitar resultados discriminatórios no aprendizado de máquina. O Fórum Econômico Mundial desenvolveu quatro recomendações com base nos Princípios Orientadores de Direitos Humanos da ONU para ajudar a abordar e prevenir resultados discriminatórios no aprendizado de máquina.
As recomendações do Fórum Econômico Mundial são as seguintes:
1. Inclusão ativa: o desenvolvimento e o design de aplicações de aprendizado de máquina devem buscar ativamente uma diversidade de entradas, especialmente das normas e valores de populações específicas afetadas pela saída dos sistemas de IA
2. Justiça: As pessoas envolvidas na conceituação, desenvolvimento e implementação de sistemas de aprendizado de máquina devem considerar qual definição de justiça melhor se aplica ao seu contexto e aplicação e priorizá-la na arquitetura do sistema de aprendizado de máquina e suas métricas de avaliação
3. Direito ao Entendimento: O envolvimento de sistemas de aprendizado de máquina na tomada de decisões que afete os direitos individuais deve ser divulgado e os sistemas devem ser capazes de fornecer uma explicação de sua tomada de decisão que seja compreensível para os usuários finais e revisável por uma autoridade humana competente. Onde isso é impossível e os direitos estão em jogo, os líderes no design, implantação e regulamentação da tecnologia de aprendizado de máquina devem questionar se ela deve ou não ser usada
4. Acesso à reparação: Líderes, designers e desenvolvedores de sistemas de aprendizado de máquina são responsáveis por identificar os possíveis impactos negativos de seus sistemas sobre os direitos humanos. Eles devem criar vias visíveis de reparação para aqueles afetados por impactos díspares e estabelecer processos para a reparação oportuna de quaisquer resultados discriminatórios.

Em janeiro de 2020, o Berkman Klein Center for Internet and Society da Universidade de Harvard publicou um meta-estudo de 36 conjuntos proeminentes de princípios para IA, identificando oito temas-chave: privacidade, responsabilidade, segurança e proteção, transparência e explicabilidade, justiça e não discriminação, controle humano da tecnologia, responsabilidade profissional e promoção dos valores humanos. Um meta-estudo semelhante foi realizado por pesquisadores do Instituto Federal Suíço de Tecnologia em Zurique em 2019.

### Abordagens
Várias tentativas foram feitas para tornar a ética computável, ou pelo menos formal. Enquanto as Três Leis da Robótica de Isaac Asimov geralmente não são consideradas adequadas para um agente moral artificial, tem sido estudado se o imperativo categórico de Kant pode ser usado. No entanto, tem sido apontado que o valor humano é, em alguns aspectos, muito complexo. Uma maneira de superar explicitamente essa dificuldade é receber valores humanos diretamente dos humanos por meio de algum mecanismo, por exemplo, aprendendo-os. Outra abordagem é basear as considerações éticas atuais em situações semelhantes anteriores. Isso se chama casuística e poderia ser implementado por meio de pesquisas na Internet. O consenso de um milhão de decisões anteriores levaria a uma nova decisão que dependeria da democracia. O professor Bruce M. McLaren construiu um modelo computacional de casuística no início (em meados da década de 1990), especificamente um programa chamado SIROCCO construído com IA e técnicas de raciocínio baseado em casos que recupera e analisa dilemas éticos. Essa abordagem pode, no entanto, levar a decisões que refletem preconceitos e comportamentos antiéticos exibidos na sociedade. Os efeitos negativos dessa abordagem podem ser vistos no Tay (bot) da Microsoft, onde o chatterbot aprendeu a repetir mensagens racistas e sexualmente carregadas enviadas por usuários do Twitter.
Um experimento mental se concentra em um Genie Golem com poderes ilimitados apresentando-se ao leitor. Este gênio declara que retornará em 50 anos e exige que lhe seja fornecido um conjunto definido de moral sobre o qual agirá imediatamente. O objetivo deste experimento é iniciar um discurso sobre a melhor forma de lidar com a definição de um conjunto completo de ética que os computadores possam entender.

## Na ficção
Na ficção científica, filmes e romances brincaram com a ideia de senciência em robôs e máquinas.
O filme Chappie (2015), de Neill Blomkamp, encenou um cenário em que é possível transferir a consciência de alguém para um computador. O filme Ex Machina (2014), de Alex Garland, seguiu um androide com inteligência artificial passando por uma variação do teste de Turing, um teste administrado a uma máquina para ver se seu comportamento pode ser distinguível do de um humano. Obras como Terminator (1984) e Matrix (1999) incorporam o conceito de máquinas que se voltam contra seus mestres humanos (ver inteligência artificial).
Isaac Asimov considerou a questão na década de 1950 em I, Robot. Por insistência de seu editor John W. Campbell Jr., ele propôs as Três Leis da Robótica para governar sistemas artificialmente inteligentes. Grande parte de seu trabalho foi então gasto testando os limites de suas três leis para ver onde elas falhariam ou onde criariam um comportamento paradoxal ou imprevisto. Seu trabalho sugere que nenhum conjunto de leis fixas pode antecipar suficientemente todas as circunstâncias possíveis. No romance de Philip K. Dick, Androides sonham com ovelhas elétricas? (1968), ele explora o que significa ser humano. Em seu cenário pós-apocalíptico, ele questionou se a empatia era uma característica inteiramente humana. Sua história é a base do filme de ficção científica Blade Runner (1982).

## Áreas relacionadas
- Computação afetiva
- Ética formal[49]
- Bioética
- Teoria computacional da mente
- Ética informática
- Ética da inteligência artificial
- Psicologia moral
- Filosofia da inteligência artificial
- Filosofia da mente

## Leitura complementar
- Hagendorff, Thilo (2021). Vinculando o comportamento humano e de máquina: uma nova abordagem para avaliar a qualidade dos dados de treinamento para aprendizado de máquina benéfico . Minds and Machines, doi:10.1007/s11023-021-09573-8   .
- Anderson, Michael; Anderson, Susan Leigh, eds (julho/agosto de 2006). " Edição Especial sobre Ética da Máquina ". Sistemas Inteligentes IEEE 21 (4): 10–63.
- Bendel, Oliver (11 de dezembro de 2013). Considerações sobre a Relação entre Ética Animal e Máquina . AI & SOCIETY, doi:10.1007/s00146-013-0526-3   .
- Dabringer, Gerhard, ed. (2010). " Aspectos Éticos e Jurídicos dos Sistemas Não Tripulados. Entrevistas ". Ministério da Defesa e Esportes da Áustria, Viena 2010,ISBN 978-3-902761-04-0 .
- Gardner, A. (1987). Uma Abordagem Artificial ao Raciocínio Jurídico . Cambridge, MA: MIT Press .
- Georges, TM (2003). Alma Digital: Máquinas Inteligentes e Valores Humanos . Cambridge, MA: Westview Press .
- Singer, PW (29 de dezembro de 2009). Wired for War : The Robotics Revolution and Conflict in the 21st Century : Penguin .

title: Ética de máquinas

wikitext:
A '''ética de máquinas''' (ou '''moralidade das máquinas''', '''moral computacional''' ou '''ética computacional''') é uma parte da [[ética na inteligência artificial]] preocupada em adicionar ou garantir comportamentos morais de [[Design|máquinas feitas pelo homem]] que usam inteligência artificial, também conhecidas como [[Agente inteligente|agentes inteligentes artificiais]].<ref>{{Citar periódico |titulo=The Nature, Importance, and Difficulty of Machine Ethics |ultimo=Moor |primeiro=J.H. |ano=2006 |paginas=18–21 |doi=10.1109/MIS.2006.80 |volume=21 |periódico=IEEE Intelligent Systems}}</ref> A ética de máquinas difere de outros campos éticos relacionados à [[engenharia]] e à [[tecnologia]]. A ética de máquinas não deve ser confundida com a [[ética de computadores]], que se concentra no uso humano dos computadores. Também deve ser diferenciada da [[filosofia da tecnologia]], que se preocupa com os efeitos sociais mais grandiosos da tecnologia.<ref>{{Citar web|ultimo=Boyles|primeiro=Robert James|url=https://www.kritike.org/journal/issue_22/boyles_june2018.pdf|titulo=A Case for Machine Ethics in Modeling Human-Level Intelligent Agents|acessodata=1 de novembro de 2019|website=Kritike}}</ref>

== História ==
Antes do século XXI, a ética de máquinas tinha sido em sua maioria objeto da literatura de ficção científica, principalmente devido às limitações da computação e da [[inteligência artificial]] (IA). Embora a definição de "Ética de Máquina" tenha evoluído desde então, o termo foi cunhado por Mitchell Waldrop no artigo "A Question of Responsibility" da AI Magazine de 1987:<blockquote>''"No entanto, uma coisa que fica aparente na discussão precedente é que as máquinas inteligentes incorporarão valores, suposições e propósitos, quer seus programadores tenham a intenção consciente ou não.'' ''Assim, conforme os computadores e robôs se tornam cada vez mais inteligentes, torna-se imperativo que pensemos cuidadosa e explicitamente sobre quais são esses valores embutidos.'' ''Talvez o que precisemos seja, de fato, uma teoria e prática da ética da máquina, no espírito das [[Leis da Robótica|três leis da robótica de Asimov]]."''<ref name="Waldrop1987">{{Citar periódico |titulo=A Question of Responsibility |data=primavera de 1987 |ultimo=Waldrop |primeiro=Mitchell |paginas=28–39 |doi=10.1609/aimag.v8i1.572 |volume=8 |periódico=AI Magazine}}</ref></blockquote>Em 2004, ''Towards Machine Ethics''<ref>Anderson, M., Anderson, S., and Armen, C. (2004) “Towards Machine Ethics” in Proceedings of the AAAI Workshop on Agent Organization: Theory and Practice, AAAI Press </ref> foi apresentado no ''AAAI Workshop on Agent Organizations: Theory and Practice''<ref>AAAI Workshop on Agent Organization: Theory and Practice, AAAI Press </ref> no qual foram apresentados os fundamentos teóricos para a ética de máquinas.

Foi no ''AAAI Fall 2005 Symposium'' sobre ética de máquinas onde os pesquisadores se encontraram pela primeira vez para considerar a implementação de uma dimensão ética em sistemas autônomos.<ref>{{Citar web|url=http://www.aaai.org/Library/Symposia/Fall/fs05-06|titulo=Papers from the 2005 AAAI Fall Symposium|arquivourl=https://web.archive.org/web/20141129044821/http://www.aaai.org/Library/Symposia/Fall/fs05-06|arquivodata=2014-11-29}}</ref> Uma variedade de perspectivas deste campo nascente pode ser encontrada na edição coletada "Machine Ethics"<ref name="Anderson2011">{{Citar livro|título=Machine Ethics|data=julho de 2011|editora=[[Cambridge University Press]]|editor-sobrenome=Anderson|isbn=978-0-521-11235-2|editor-sobrenome2=Anderson}}</ref> que se origina do ''AAAI Fall 2005 Symposium'' sobre ética de máquinas.

Em 2007, a AI Magazine apresentou o artigo ''Machine Ethics: Creating an Ethical Intelligent Agent'',<ref name="anderson">Anderson, M. and Anderson, S. (2007). [http://ieet.org/archive/AIMagFinal.pdf Creating an Ethical Intelligent Agent]. ''AI Magazine'', Volume 28(4).</ref> que discutiu a importância da ética das máquinas, a necessidade de máquinas que representem explicitamente os princípios éticos e os desafios enfrentados por aqueles que trabalham com a ética das máquinas. Ele também demonstrou que é possível para uma máquina, pelo menos em um domínio limitado, abstrair um princípio ético de exemplos de julgamentos éticos e usar esse princípio para guiar seu próprio comportamento.

Em 2009, a [[Oxford University Press]] publicou ''Moral Machines, Teaching Robots Right from Wrong''<ref name="Wallach&Allen2009">{{Citar livro|url=https://archive.org/details/moralmachinestea0000wall|título=Moral machines : teaching robots right from wrong|ultimo=Wallach|primeiro=Wendell|ultimo2=Allen|primeiro2=Colin|data=2009|editora=Oxford University Press|isbn=9780195374049}}</ref> e o divulgou como "o primeiro livro a examinar o desafio de construir agentes morais artificiais, investigando profundamente a natureza da ética e da tomada de decisões humanas". Ele citou cerca de 450 fontes, das quais cerca de 100 abordavam [[#Focos da ética de máquinas|questões importantes]] de ética da máquina.

Em 2011, a [[Cambridge University Press]] publicou uma coleção de ensaios sobre a ética de máquinas editada por Michael e Susan Leigh Anderson,<ref name="Anderson2011">{{Citar livro|título=Machine Ethics|data=julho de 2011|editora=[[Cambridge University Press]]|editor-sobrenome=Anderson|isbn=978-0-521-11235-2|editor-sobrenome2=Anderson}}</ref> que também editou uma edição especial da ''IEEE Intelligent Systems'' sobre o assunto em 2006.<ref name="Anderson2006">{{Citar periódico |url=http://www.computer.org/portal/web/csdl/abs/mags/ex/2006/04/x4toc.htm |titulo=Special Issue on Machine Ethics |data=julho–agosto de 2006 |editor-sobrenome=Anderson |paginas=10–63 |doi=10.1109/mis.2006.70 |issn=1541-1672 |arquivourl=https://web.archive.org/web/20111126025029/http://www.computer.org/portal/web/csdl/abs/mags/ex/2006/04/x4toc.htm |arquivodata=2011-11-26 |editor-sobrenome2=Anderson |volume=21 |periódico=IEEE Intelligent Systems}}</ref> A coleção consiste nos desafios de agregar princípios éticos às máquinas.<ref>{{Citar periódico |url=https://www.semanticscholar.org/paper/Review-of-Anderson-and-Anderson's-Machine-Ethics-Siler/53911016d33c36e1a06967c849b48129f9132405 |titulo=Review of Anderson and Anderson's Machine Ethics |acessodata=7 de novembro de 2019 |ultimo=Siler |primeiro=Cory |ano=2015 |paginas=200–201 |doi=10.1016/j.artint.2015.08.013 |volume=229 |doi-access=free |periódico=Artificial Intelligence}}</ref>

Em 2014, o [[Escritório de Pesquisa Naval dos Estados Unidos]] anunciou que iria distribuir US $ 7,5 milhões em bolsas durante cinco anos para pesquisadores universitários para estudarem questões de ética da máquina aplicadas a robôs autônomos,<ref name="Tucker2014">{{Citar jornal|ultimo=Tucker|primeiro=Patrick|url=http://www.defenseone.com/technology/2014/05/now-military-going-build-robots-have-morals/84325/|titulo=Now The Military Is Going To Build Robots That Have Morals|data=13 de maio de 2014|acessodata=9 de julho de 2014|agência=Defense One}}</ref> e o livro [[Superinteligência: Caminhos, perigos, estratégias|''Superinteligência: caminhos, perigos, Estratégias'']], de [[Nick Bostrom]] que elevou a ética da máquinas como "a mais importante ... questão que a humanidade já enfrentou", alcançou o 17º lugar na lista dos livros de ciência mais vendidos do New York Times.<ref>{{Citar web|ultimo=<!--Staff writer(s); no by-line.-->|url=https://www.nytimes.com/2014/09/09/science/best-selling-science-books.html?module=Search&mabReward=relbias%3As&_r=0|titulo=Best Selling Science Books|data=8 de setembro de 2014|acessodata=9 de novembro de 2014|website=New York Times}}</ref>

Em 2016, o Parlamento Europeu publicou um documento,<ref>{{Citar web|url=http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML%2BCOMPARL%2BPE-582.443%2B01%2BDOC%2BPDF%2BV0//EN|titulo=European Parliament, Committee on Legal Affairs. Draft Report with recommendations to the Commission on Civil Law Rules on Robotics|acessodata=12 de janeiro de 2017|publicado=European Commission}}</ref> (PDF de 22 páginas), para encorajar a Comissão a abordar a questão do estatuto jurídico dos robôs, conforme descrito de forma mais sucinta na imprensa.<ref>{{Citar jornal|ultimo=Wakefield|primeiro=Jane|url=https://www.bbc.com/news/technology-38583360|titulo=MEPs vote on robots' legal status – and if a kill switch is required|data=2017-01-12|acessodata=12 de janeiro de 2017|website=BBC News}}</ref> Este artigo incluía seções sobre as responsabilidades legais dos robôs, em que se argumentou que as responsabilidades são proporcionais ao nível de autonomia dos robôs. O artigo também questionou o número de empregos que poderiam ser substituídos por robôs de IA.<ref>{{Citar web|url=http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html|titulo=European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics|acessodata=8 de novembro de 2019|publicado=European Parliament}}</ref>

== Definições ==
[[James H. Moor]], um dos teóricos pioneiros no campo da [[ética computacional]], define quatro tipos de robôs éticos. Como um profundo pesquisador nos estudos de [[filosofia da inteligência artificial]], [[filosofia da mente]], [[filosofia da ciência]] e [[lógica]], Moor define máquinas como agentes de impacto ético, agentes éticos implícitos, agentes éticos explícitos ou agentes éticos completos. Uma máquina pode ser mais de um tipo de agente.<ref>{{Citar web|ultimo=Moor|primeiro=James M.|url=https://philosophynow.org/issues/72/Four_Kinds_of_Ethical_Robots|titulo=Four Kinds of Ethical Robots|data=2009|website=Philosophy Now}}</ref>

* '''Agentes de impacto ético''': são sistemas de máquinas que causam um impacto ético intencional ou não. Ao mesmo tempo, esses agentes têm potencial para agir de forma antiética. Moor dá um exemplo hipotético chamado 'agente Goodman', em homenagem ao filósofo [[Nelson Goodman]]. O agente Goodman compara datas, mas tem o [[Problema do ano 2000|bug]] do milênio. Esse bug era resultado de programadores que representavam datas apenas com os dois últimos dígitos do ano. Portanto, quaisquer datas posteriores a 2000 seriam erroneamente tratadas como anteriores às do final do século XX. Assim, o agente de Goodman era um agente de impacto ético antes de 2000 e, posteriormente, um agente de impacto antiético.
* '''Agentes éticos implícitos''': para consideração da [[segurança]] humana, esses agentes são programados para ter uma proteção [[à prova de falhas]] ou uma virtude embutida. Eles não são inteiramente éticos por natureza, mas sim programados para evitar resultados antiéticos.
* '''Agentes éticos explícitos''': são máquinas capazes de processar cenários e agir sobre decisões éticas. Máquinas que possuem algoritmos para agir com ética.
* '''Agentes éticos completos''': essas máquinas são semelhantes aos agentes éticos explícitos no que diz respeito a poder tomar decisões éticas. No entanto, eles também contêm características [[metafísica]]s humanas. (ou seja, têm [[Livre-arbítrio|livre arbítrio]], [[consciência]] e [[intencionalidade]])

(Ver [[Responsabilidade moral|sistemas artificiais e responsabilidade moral]].)

== Focos da ética de máquinas ==

=== Problema de controle de IA ===
{{VT|Alinhamento da inteligência artificial}}
Alguns estudiosos, como o filósofo [[Nick Bostrom]] e o pesquisador de IA [[Stuart Russell]], argumentam que se a IA ultrapassa a humanidade em inteligência geral e se torna "[[Superinteligência|superinteligente]]", então esta nova superinteligência pode se tornar poderosa e difícil de controlar: assim como o destino do [[Gorila-das-montanhas|gorila]] da montanha depende da boa vontade humana, o destino da humanidade dependeria das ações de uma futura superinteligência da máquina.<ref name="superintelligence">{{Citar livro|título=Superintelligence: Paths, Dangers, Strategies|ultimo=Bostrom|primeiro=Nick|data=2014|isbn=978-0199678112|autorlink=Nick Bostrom|edição=First}}</ref> Em seus respectivos livros [[Superinteligência: Caminhos, perigos, estratégias|''Superinteligência'']] e ''[[Human Compatible]]'', ambos os estudiosos afirmam que, embora haja muita incerteza quanto ao futuro da IA, o risco para a humanidade é grande o suficiente para merecer uma ação significativa no presente.

Isso apresenta o problema de controle de IA: como construir um agente inteligente que ajudará seus criadores, enquanto evita-se construir inadvertidamente uma superinteligência que irá prejudicar seus criadores. O perigo de não [[Design|projetar]] o controle certo "da primeira vez" é que uma superinteligência pode ser capaz de assumir o poder sobre seu ambiente e impedir que humanos a desliguem. As estratégias de controle de IA potenciais incluem "controle de capacidade" (limitando a capacidade de uma IA de influenciar o mundo) e "controle motivacional" (uma maneira de construir uma IA cujos objetivos estão alinhados com os [[Valor (ética)|valores]] ou ideais humanos). Há várias organizações pesquisando o problema do controle de IA, incluindo o [[Future of Humanity Institute]], o [[Machine Intelligence Research Institute]], o [[Center for Human-Compatible Artificial Intelligence]] e o [[Future of Life Institute]].

=== Algoritmos e treinamento ===
Os paradigmas de IA têm sido debatidos, especialmente em relação à sua eficácia e viés. [[Nick Bostrom]] e [[Eliezer Yudkowsky]] defenderam [[Árvore de decisão|árvores de decisão]] (como ID3) em vez de [[Rede neural artificial|redes neurais]] e [[Algoritmo genético|algoritmos genéticos]], alegando que as árvores de decisão obedecem a normas sociais modernas de transparência e previsibilidade (por exemplo, ''[[stare decisis]]'').<ref>{{Citar web|ultimo=Bostrom|primeiro=Nick|ultimo2=Yudkowsky|primeiro2=Eliezer|autorlink2=Eliezer Yudkowsky|url=http://www.nickbostrom.com/ethics/artificial-intelligence.pdf|titulo=The Ethics of Artificial Intelligence|acessodata=2011-06-28|website=Cambridge Handbook of Artificial Intelligence|publicado=[[Cambridge Press]]|ano=2011|arquivourl=https://web.archive.org/web/20160304015020/http://www.nickbostrom.com/ethics/artificial-intelligence.pdf|arquivodata=2016-03-04|urlmorta=dead}}</ref> Em contraste, Chris Santos-Lang argumentou a favor de redes neurais e algoritmos genéticos com base em que as normas de qualquer idade devem ser alteradas e que a falha natural em satisfazer totalmente essas normas específicas foi essencial para tornar os humanos menos vulneráveis do que as máquinas a "[[Cultura hacker|hackers]]" criminosos.<ref name="SantosLang2002">{{Citar web|ultimo=Santos-Lang|primeiro=Chris|url=http://knol.google.com/k/chris-santos-lang/ethics-for-artificial-intelligences/3iue30fi4gfq9/1|titulo=Ethics for Artificial Intelligences|ano=2002|arquivourl=https://web.archive.org/web/20111203030304/http://knol.google.com/k/chris-santos-lang/ethics-for-artificial-intelligences/3iue30fi4gfq9/1|arquivodata=2011-12-03|urlmorta=dead}}</ref><ref name="SantosLang2014">{{Citar livro|título=Machine Medical Ethics|ultimo=Santos-Lang|primeiro=Christopher|editora=Springer|ano=2014|editor-sobrenome=van Rysewyk|series=Intelligent Systems, Control and Automation: Science and Engineering|volume=74|localização=Switzerland|páginas=111–127|capitulo=Moral Ecology Approaches to Machine Ethics|doi=10.1007/978-3-319-08108-3_8|isbn=978-3-319-08107-6|editor-sobrenome2=Pontier}}</ref>

Em 2009, em um experimento no Laboratório de Sistemas Inteligentes da [[Escola Politécnica Federal de Lausana|Escola Politénica Federal]] de [[Lausana]], na [[Suíça]], robôs de IA foram programados para cooperar entre si e encarregados de buscar um recurso benéfico, evitando um recurso venenoso.<ref>[http://www.popsci.com/scitech/article/2009-08/evolving-robots-learn-lie-hide-resources-each-other Evolving Robots Learn To Lie To Each Other], Popular Science, August 18, 2009</ref> Durante o experimento, os robôs foram agrupados em clãs, e o código genético digital dos membros bem-sucedidos foi usado para a próxima geração, um tipo de algoritmo conhecido como [[algoritmo genético]]. Após 50 gerações sucessivas na IA, os membros de um clã descobriram como distinguir o recurso benéfico do venenoso. Os robôs então aprenderam a mentir uns para os outros na tentativa de acumular o recurso benéfico de outros robôs.<ref>Evolving Robots Learn To Lie To Each Other, Popular Science, August 18, 2009</ref> No mesmo experimento, os mesmos robôs de IA também aprenderam a se comportar de forma altruísta e sinalizaram perigo para outros robôs, e também morreram para salvar outros robôs.<ref>Santos-Lang, Chris (2002). "Ethics for Artificial Intelligences". Archived from the original on 2011-12-03.</ref> As implicações desse experimento foram contestadas por especialistas em ética de máquinas. No experimento da Escola Politécnica Federal, os objetivos dos robôs foram programados para serem "terminais". Em contraste, as motivações humanas normalmente têm a qualidade de exigir um aprendizado sem fim.

=== Sistemas de armas autônomas ===
{{AP|Armas Autônomas Letais}}
Em 2009, acadêmicos e especialistas técnicos participaram de uma conferência para discutir o impacto potencial de robôs e computadores e o impacto da possibilidade hipotética de se tornarem autossuficientes e capazes de tomar suas próprias decisões. Eles discutiram a possibilidade e a extensão em que computadores e robôs poderiam adquirir qualquer nível de autonomia, e até que ponto eles poderiam usar tais habilidades para possivelmente representar qualquer ameaça ou perigo. Eles observaram que algumas máquinas adquiriram várias formas de semi-autonomia, incluindo a capacidade de encontrar fontes de energia por conta própria e de escolher independentemente alvos para atacar com armas. Eles também observaram que alguns vírus de computador podem evitar a eliminação e alcançaram "inteligência de barata". Eles observaram que a autoconsciência descrita na ficção científica é provavelmente improvável, mas que havia outros perigos e armadilhas potenciais.<ref name="nytimes july09">[https://www.nytimes.com/2009/07/26/science/26robot.html?_r=1&ref=todayspaper Scientists Worry Machines May Outsmart Man] By JOHN MARKOFF, NY Times, July 26, 2009.</ref>

Alguns especialistas e acadêmicos questionaram o uso de robôs para o combate militar, especialmente quando esses robôs recebem algum grau de funções autônomas.<ref>[http://news.bbc.co.uk/2/hi/technology/8182003.stm Call for debate on killer robots], By Jason Palmer, Science and technology reporter, BBC News, 8/3/09.</ref> A marinha dos EUA financiou um relatório que indica que, à medida que os robôs militares se tornam mais complexos, deve haver maior atenção às implicações de sua capacidade de tomar decisões autônomas.<ref>[http://www.dailytech.com/New%20Navyfunded%20Report%20Warns%20of%20War%20Robots%20Going%20Terminator/article14298.htm Science New Navy-funded Report Warns of War Robots Going "Terminator"] {{Webarchive|url=https://web.archive.org/web/20090728101106/http://www.dailytech.com/New%20Navyfunded%20Report%20Warns%20of%20War%20Robots%20Going%20Terminator/article14298.htm|date=2009-07-28}}, by Jason Mick (Blog), dailytech.com, February 17, 2009.</ref><ref>[https://www.engadget.com/2009/02/18/navy-report-warns-of-robot-uprising-suggests-a-strong-moral-com/ Navy report warns of robot uprising, suggests a strong moral compass], by Joseph L. Flatley engadget.com, Feb 18th 2009.</ref> O presidente da [[Associação para o Avanço da Inteligência Artificial]] encomendou um estudo para analisar esta questão.<ref>[http://research.microsoft.com/en-us/um/people/horvitz/AAAI_Presidential_Panel_2008-2009.htm AAAI Presidential Panel on Long-Term AI Futures 2008–2009 Study], [[Association for the Advancement of Artificial Intelligence]], acessado em 26 de julho de 2009.</ref> Eles apontam para programas como o [[Dispositivo de Aquisição de Linguagem]], que pode emular a interação humana.

=== Integração de Inteligências Artificiais Gerais com a sociedade ===
Trabalhos preliminares foram conduzidos sobre métodos de integração de [[Inteligência geral artificial|inteligências artificiais gerais]] (agentes éticos completos, conforme definido acima) com as estruturas legais e sociais existentes. As abordagens se concentraram na consideração de seus direitos e posições legais.<ref>{{Citar periódico |titulo=Responses to catastrophic AGI risk: a survey |data=2014-12-19 |número=1 |ultimo=Sotala |primeiro=Kaj |ultimo2=Yampolskiy |primeiro2=Roman V |paginas=8 |doi=10.1088/0031-8949/90/1/018001 |issn=0031-8949 |volume=90 |doi-access=free |periódico=Physica Scripta}}</ref>

=== Viés em aprendizado de máquina ===
{{AP|Discriminação algorítmica}}
O [[big data]] e os [[algoritmo]]s de [[aprendizado de máquina]] tornaram-se populares entre vários setores, incluindo [[Publicidade online|publicidade on-line]], [[Classificação de crédito|classificações de crédito]] e sentenciamento criminal, com a promessa de fornecer resultados mais objetivos e orientados por dados, mas foram identificados como uma fonte potencial para perpetuar desigualdades sociais e [[discriminação]].<ref name="NYT2016">{{Citar jornal|ultimo=Crawford|primeiro=Kate|url=https://www.nytimes.com/2016/06/26/opinion/sunday/artificial-intelligences-white-guy-problem.html|titulo=Artificial Intelligence's White Guy Problem|data=25 de junho de 2016|website=The New York Times}}</ref><ref name="ProPublica2016">{{Citar jornal|ultimo=Kirchner|primeiro=Julia Angwin, Surya Mattu, Jeff Larson, Lauren|url=https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing|titulo=Machine Bias: There's Software Used Across the Country to Predict Future Criminals. And it's Biased Against Blacks.|data=23 de maio de 2016|website=ProPublica|lingua=en}}</ref> Um estudo de 2015 descobriu que as mulheres eram menos propensas a ver anúncios de emprego de alta renda pelo [[AdSense]] do [[Google]]. Outro estudo descobriu que o serviço de entrega no mesmo dia da [[Amazon]] foi tornado indisponível intencionalmente em bairros de negros. Tanto o Google quanto a Amazon não conseguiram isolar esses resultados em um único problema, mas explicaram que os resultados eram o resultado dos algoritmos de [[Caixa preta (teoria dos sistemas)|caixa preta]] que usaram.<ref name="NYT2016" />

O sistema judicial dos Estados Unidos começou a usar [[software de avaliação quantitativa de risco]] ao tomar decisões relacionadas à libertação de pessoas sob fiança e sentença em um esforço para ser mais justo e reduzir uma já alta [[taxa de prisão]]. Essas ferramentas analisam o histórico criminal de um réu, entre outros atributos. Em um estudo com 7.000 pessoas presas no condado de [[Condado de Broward|Broward]], [[Flórida]], apenas 20% dos indivíduos que cometeriam um crime de acordo com as previsões do sistema de pontuação de [[avaliação de risco]] do condado realmente cometeram um crime.<ref name="ProPublica2016">{{Citar jornal|ultimo=Kirchner|primeiro=Julia Angwin, Surya Mattu, Jeff Larson, Lauren|url=https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing|titulo=Machine Bias: There's Software Used Across the Country to Predict Future Criminals. And it's Biased Against Blacks.|data=23 de maio de 2016|website=ProPublica|lingua=en}}</ref> Um relatório da [[ProPublica]] de 2016 analisou as pontuações de risco de [[reincidência]] calculadas por uma das ferramentas mais usadas, o sistema Northpointe [[COMPAS]], e analisou os resultados ao longo de dois anos. O relatório descobriu que apenas 61% das pessoas consideradas de alto risco acabaram cometendo crimes adicionais durante aquele período. O relatório também sinalizou que os réus afro-americanos eram muito mais propensos a receber pontuações de alto risco em relação aos réus brancos.<ref name="ProPublica2016" />

Em 2016, o Grupo de Trabalho em Big Data do [[Presidência de Barack Obama|governo Obama]] – um supervisor de várias estruturas regulatórias de big data – divulgou relatórios argumentando sobre “o potencial de codificar a discriminação em decisões automatizadas” e pedindo “oportunidades iguais por projeto” para aplicações como pontuação de crédito.<ref>{{Citar web|ultimo=Executive Office of the President|url=https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf|titulo=Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights|data=maio de 2016|publicado=Obama White House}}</ref><ref>{{Citar web|url=https://obamawhitehouse.archives.gov/blog/2016/05/04/big-risks-big-opportunities-intersection-big-data-and-civil-rights|titulo=Big Risks, Big Opportunities: the Intersection of Big Data and Civil Rights|data=4 de maio de 2016|publicado=Obama White House|lingua=en}}</ref> Os relatórios incentivam o diálogo entre [[formuladores de políticas]], cidadãos e acadêmicos, mas reconhece que não há uma solução potencial para a codificação de [[Viés|preconceito]] e discriminação em sistemas algorítmicos.

== ''Frameworks'' e práticas éticas ==

=== Práticas ===
Em março de 2018, em um esforço para abordar as crescentes preocupações sobre o impacto do aprendizado de máquina nos [[direitos humanos]], o [[Fórum Econômico Mundial]] e o [[Conselho de Futuro Global de Direitos Humanos]] publicaram um [https://www.weforum.org/whitepapers/how-to-prevent-discriminatory-outcomes-in-machine-learning ''white paper''] com recomendações detalhadas sobre a melhor forma de evitar resultados discriminatórios no aprendizado de máquina.<ref name=":0">{{Citar web|url=https://www.weforum.org/whitepapers/how-to-prevent-discriminatory-outcomes-in-machine-learning/|titulo=How to Prevent Discriminatory Outcomes in Machine Learning|acessodata=2018-12-11|website=World Economic Forum}}</ref> O Fórum Econômico Mundial desenvolveu quatro recomendações com base nos ''Princípios Orientadores de Direitos Humanos da ONU'' para ajudar a abordar e prevenir resultados discriminatórios no aprendizado de máquina.

As recomendações do Fórum Econômico Mundial são as seguintes:<ref name=":0">{{Citar web|url=https://www.weforum.org/whitepapers/how-to-prevent-discriminatory-outcomes-in-machine-learning/|titulo=How to Prevent Discriminatory Outcomes in Machine Learning|acessodata=2018-12-11|website=World Economic Forum}}</ref>

# '''Inclusão ativa:''' o desenvolvimento e o design de aplicações de aprendizado de máquina devem buscar ativamente uma diversidade de entradas, especialmente das normas e valores de populações específicas afetadas pela saída dos sistemas de IA
# '''[[Justiça]]:''' As pessoas envolvidas na conceituação, desenvolvimento e implementação de sistemas de aprendizado de máquina devem considerar qual definição de justiça melhor se aplica ao seu contexto e aplicação e priorizá-la na arquitetura do sistema de aprendizado de máquina e suas métricas de avaliação
# '''Direito ao Entendimento:''' O envolvimento de sistemas de aprendizado de máquina na tomada de decisões que afete os direitos individuais deve ser divulgado e os sistemas devem ser capazes de fornecer uma explicação de sua tomada de decisão que seja compreensível para os usuários finais e revisável por uma autoridade humana competente. Onde isso é impossível e os direitos estão em jogo, os líderes no design, implantação e regulamentação da tecnologia de aprendizado de máquina devem questionar se ela deve ou não ser usada
# '''Acesso à reparação:''' Líderes, designers e desenvolvedores de sistemas de aprendizado de máquina são responsáveis por identificar os possíveis impactos negativos de seus sistemas sobre os direitos humanos. Eles devem criar vias visíveis de reparação para aqueles afetados por impactos díspares e estabelecer processos para a reparação oportuna de quaisquer resultados discriminatórios.

Em janeiro de 2020, o [[Berkman Klein Center for Internet and Society]] da [[Universidade de Harvard]] publicou um meta-estudo de 36 conjuntos proeminentes de princípios para IA, identificando oito temas-chave: privacidade, responsabilidade, segurança e proteção, transparência e [[Inteligência artificial explicável|explicabilidade]], justiça e não discriminação, controle humano da tecnologia, responsabilidade profissional e promoção dos valores humanos.<ref>{{Citar periódico |url=http://nrs.harvard.edu/urn-3:HUL.InstRepos:42160420 |titulo=Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI |data=2020 |ultimo=Fjeld |primeiro=Jessica |ultimo2=Achten |primeiro2=Nele |doi=10.2139/ssrn.3518482 |issn=1556-5068 |ultimo3=Hilligoss |primeiro3=Hannah |ultimo4=Nagy |primeiro4=Adam |ultimo5=Srikumar |primeiro5=Madhulika |periódico=SSRN Working Paper Series}}</ref> Um meta-estudo semelhante foi realizado por pesquisadores do [[Instituto Federal de Tecnologia de Zurique|Instituto Federal Suíço de Tecnologia em Zurique]] em 2019.<ref>{{Citar periódico |titulo=The global landscape of AI ethics guidelines |data=2019 |número=9 |ultimo=Jobin |primeiro=Anna |ultimo2=Ienca |primeiro2=Marcello |paginas=389–399 |arxiv=1906.11668 |doi=10.1038/s42256-019-0088-2 |issn=2522-5839 |ultimo3=Vayena |primeiro3=Effy |volume=1 |doi-access=free |periódico=Nature Machine Intelligence}}</ref>

=== Abordagens ===
Várias tentativas foram feitas para tornar a ética computável, ou pelo menos [[Ética formal|formal]]. Enquanto as [[Leis da Robótica|Três Leis da Robótica de]] [[Isaac Asimov]] geralmente não são consideradas adequadas para um agente moral artificial,<ref>Anderson, Susan Leigh (2011): The Unacceptability of Asimov's Three Laws of Robotics as a Basis for Machine Ethics. In: Machine Ethics, ed. Michael Anderson, Susan Leigh Anderson. New York: Oxford University Press. pp.285–296. {{ISBN|9780511978036}}</ref> tem sido estudado se o [[imperativo categórico]] de Kant pode ser usado.<ref>Powers, Thomas M. (2011): [http://udel.edu/~tpowers/papers/Prospects2.pdf Prospects for a Kantian Machine]. In: Machine Ethics, ed. Michael Anderson, Susan Leigh Anderson. New York: Oxford University Press. pp.464–475.</ref> No entanto, tem sido apontado que o valor humano é, em alguns aspectos, muito complexo.<ref>Muehlhauser, Luke, Helm, Louie (2012): [http://intelligence.org/files/IE-ME.pdf Intelligence Explosion and Machine Ethics].</ref> Uma maneira de superar explicitamente essa dificuldade é receber valores humanos diretamente dos humanos por meio de algum mecanismo, por exemplo, aprendendo-os.<ref>Yudkowsky, Eliezer (2004): [http://intelligence.org/files/CEV.pdf Coherent Extrapolated Volition].</ref><ref>Guarini, Marcello (2011): [https://books.google.com/books?hl=en&lr=&id=N4IF2p4w7uwC&oi=fnd&pg=PA316&dq=%22Computational+Neural+Modeling+and+the+Philosophy+of+Ethics%22&ots=5XYSssfXKs&sig=mFWMuWUFkQqwm9ToW8Fj83zESHI#v=onepage&q=%22Computational%20Neural%20Modeling%20and%20the%20Philosophy%20of%20Ethics%22&f=false Computational Neural Modeling and the Philosophy of Ethics. Reflections on the Particularism-Generalism Debate]. In: Machine Ethics, ed. Michael Anderson, Susan Leigh Anderson. New York: Oxford University Press. pp.316–334.</ref><ref>Hibbard, Bill (2014): Ethical Artificial Intelligence. https://arxiv.org/abs/1411.1373</ref> Outra abordagem é basear as considerações éticas atuais em situações semelhantes anteriores. Isso se chama [[casuística]] e poderia ser implementado por meio de pesquisas na Internet. O consenso de um milhão de decisões anteriores levaria a uma nova decisão que dependeria da democracia.<ref name="anderson">Anderson, M. and Anderson, S. (2007). [http://ieet.org/archive/AIMagFinal.pdf Creating an Ethical Intelligent Agent]. ''AI Magazine'', Volume 28(4).</ref> O professor [[Bruce M. McLaren]] construiu um modelo computacional de casuística no início (em meados da década de 1990), especificamente um programa chamado SIROCCO construído com IA e técnicas de raciocínio baseado em casos que recupera e analisa dilemas éticos.<ref>{{Citar periódico |url=https://www.sciencedirect.com/science/article/pii/S0004370203001358 |titulo=Extensionally defining principles and cases in ethics: An AI model |número=1–2 |ultimo=McLaren |primeiro=Bruce M. |ano=2003 |paginas=145–181 |doi=10.1016/S0004-3702(03)00135-8 |volume=150 |periódico=Artificial Intelligence}}</ref> Essa abordagem pode, no entanto, levar a decisões que refletem preconceitos e comportamentos antiéticos exibidos na sociedade. Os efeitos negativos dessa abordagem podem ser vistos no [[Tay (bot)]] da Microsoft, onde o [[chatterbot]] aprendeu a repetir mensagens racistas e sexualmente carregadas enviadas por usuários do Twitter.<ref>{{Citar jornal|url=https://www.bbc.com/news/technology-35890188|titulo=Microsoft chatbot is taught to swear on Twitter – BBC News|data=24 de março de 2016|acessodata=2016-04-17|website=BBC News|lingua=en-GB}}</ref>

Um experimento mental se concentra em um ''Genie Golem'' com poderes ilimitados apresentando-se ao leitor. Este gênio declara que retornará em 50 anos e exige que lhe seja fornecido um conjunto definido de moral sobre o qual agirá imediatamente. O objetivo deste experimento é iniciar um discurso sobre a melhor forma de lidar com a definição de um conjunto completo de ética que os computadores possam entender.<ref>Nazaretyan, A. (2014). A. H. Eden, J. H. Moor, J. H. Søraker and E. Steinhart (eds): Singularity Hypotheses: A Scientific and Philosophical Assessment. Minds & Machines, 24(2), pp.245–248.</ref>

== Na ficção ==
Na [[ficção científica]], filmes e romances brincaram com a ideia de senciência em robôs e máquinas.

O filme [[Chappie]] (2015), de [[Neill Blomkamp]], encenou um cenário em que é possível transferir a consciência de alguém para um computador.<ref>{{Citar web|ultimo=Brundage|primeiro=Miles|ultimo2=Winterton|primeiro2=Jamie|url=https://slate.com/technology/2015/03/chappie-robot-ethics-the-film-raises-interesting-questions-about-morality.html|titulo=Chappie and the Future of Moral Machines|data=17 de março de 2015|acessodata=30 de outubro de 2019|website=Slate}}</ref> O filme [[Ex Machina (filme)|Ex Machina]] (2014), de [[Alex Garland]], seguiu um [[androide]] com inteligência artificial passando por uma variação do [[teste de Turing]], um teste administrado a uma máquina para ver se seu comportamento pode ser distinguível do de um humano. Obras como [[The Terminator|Terminator]] (1984) e [[Matrix]] (1999) incorporam o conceito de máquinas que se voltam contra seus mestres humanos (ver [[inteligência artificial]]).

[[Isaac Asimov]] considerou a questão na década de 1950 em [[I, Robot (livro)|I, Robot]]. Por insistência de seu editor [[John W. Campbell|John W. Campbell Jr.]], ele propôs as [[Leis da Robótica|Três Leis da Robótica]] para governar sistemas artificialmente inteligentes. Grande parte de seu trabalho foi então gasto testando os limites de suas três leis para ver onde elas falhariam ou onde criariam um comportamento paradoxal ou imprevisto. Seu trabalho sugere que nenhum conjunto de leis fixas pode antecipar suficientemente todas as circunstâncias possíveis.<ref name="Asimov2008">{{Citar livro|título=I, robot|ultimo=Asimov|primeiro=Isaac|editora=Bantam|ano=2008|localização=New York|isbn=978-0-553-38256-3}}</ref> No romance de [[Philip K. Dick]], ''[[Do Androids Dream of Electric Sheep?|Androides sonham com ovelhas elétricas?]]'' (1968), ele explora o que significa ser humano. Em seu cenário pós-apocalíptico, ele questionou se a empatia era uma característica inteiramente humana. Sua história é a base do filme de ficção científica ''[[Blade Runner]]'' (1982).

== Áreas relacionadas ==

* [[Computação afetiva]]
* [[Ética formal]]<ref>Ganascia, Jean-Gabriel. "[https://cloudfront.escholarship.org/dist/prd/content/qt3876p4qw/qt3876p4qw.pdf Ethical system formalization using non-monotonic logics]." Proceedings of the Annual Meeting of the Cognitive Science Society. Vol. 29. No. 29. 2007.</ref>
* [[Bioética]]
* [[Teoria computacional da mente]]
* [[Ética informática]]
* [[Ética na inteligência artificial|Ética da inteligência artificial]]
* [[Psicologia moral]]
* [[Filosofia da inteligência artificial]]
* [[Filosofia da mente]]

== Ver também ==

* [[Inteligência artificial]]
** [[Rebelião das máquinas]]
** [[Inteligência artificial na ficção]]
** [[Inteligência artificial amigável]]
* [[Automatizando o suporte à decisão médica]]
* [[Waymo|Carro do Google]]
* [[Robô militar]]
* [[Instituto de Pesquisa de Inteligência de Máquina]]
* [[Ética do robô]]
* [[Lei espacial]]
** [[Sonda de Von Neumann|Espaçonave auto-replicante]]
* [[Watson (supercomputador)|Projeto Watson para automatizar o suporte a decisões médicas]]
* [[Tay (bot)]]

== Notas ==
<references />

== Ligações externas ==

* [http://www.machineethics.com/ ''Machine Ethics''], um projeto interdisciplinar sobre ética da máquina.
* [https://machine-ethics.net/ ''The Machine Ethics Podcast''], um podcast discutindo a ética da máquina, a IA e a ética da tecnologia.

== Referências ==

* Wallach, Wendell; Allen, Colin (novembro de 2008). ''Máquinas morais: ensinando robôs certo do errado'' . EUA: [[Oxford University Press]] .
* Anderson, Michael; Anderson, Susan Leigh, eds (julho de 2011). ''Ética da Máquina'' . [[Cambridge University Press|Imprensa da Universidade de Cambridge]] .
* Storrs Hall, J. (30 de maio de 2007). ''Além da IA: Criando a Consciência da Máquina'' Prometheus Books .
* Mouro, J. (2006). ''A Natureza, Importância e Dificuldade da Ética da Máquina.'' [[IEEE Intelligent Systems]], 21(4), pp. 18-21.
* Anderson, M. e Anderson, S. (2007). Criando um Agente Ético Inteligente. Revista AI, Volume 28(4).

== Leitura complementar ==

* Hagendorff, Thilo (2021). ''Vinculando o comportamento humano e de máquina: uma nova abordagem para avaliar a qualidade dos dados de treinamento para aprendizado de máquina benéfico'' . Minds and Machines, {{DOI|10.1007/s11023-021-09573-8}}   .
* Anderson, Michael; Anderson, Susan Leigh, eds (julho/agosto de 2006). " [https://web.archive.org/web/20111126025029/http://www.computer.org/portal/web/csdl/abs/mags/ex/2006/04/x4toc.htm Edição Especial sobre Ética da Máquina] ". Sistemas Inteligentes IEEE '''21''' (4): 10–63.
* Bendel, Oliver (11 de dezembro de 2013). ''Considerações sobre a Relação entre Ética Animal e Máquina'' . AI & SOCIETY, {{DOI|10.1007/s00146-013-0526-3}}   .
* Dabringer, Gerhard, ed. (2010). " [https://web.archive.org/web/20120617002131/http://isr.nu/robots/Ethica_Ethics_UnmannedSystems.pdf Aspectos Éticos e Jurídicos dos Sistemas Não Tripulados.] [https://web.archive.org/web/20120617002131/http://isr.nu/robots/Ethica_Ethics_UnmannedSystems.pdf Entrevistas] ". Ministério da Defesa e Esportes da Áustria, Viena 2010,{{ISBN|978-3-902761-04-0}} .
* Gardner, A. (1987). ''Uma Abordagem Artificial ao Raciocínio Jurídico'' . Cambridge, MA: MIT Press .
* Georges, TM (2003). ''Alma Digital: Máquinas Inteligentes e Valores Humanos'' . Cambridge, MA: Westview Press .
* Singer, PW (29 de dezembro de 2009). ''Wired for War : The Robotics Revolution and Conflict in the 21st Century'' : Penguin .
[[Categoria:Computação e sociedade]]
[[Categoria:Ética]]
[[Categoria:Tecnologia de argumento]]


text:
# Cyrtonus punctipennis
Cyrtonus punctipennis é uma espécie de artrópode pertencente à família Chrysomelidae.

wikiname: ptwiki

title: Cyrtonus punctipennis

in_language: pt

wikitext:
{{Info/Taxonomia
| nome                 = Cyrtonus punctipennis
| imagem               =
| imagem_legenda       =
| estado               =
| estado_ref           =
| domínio              = [[Eukaryota]]
| reino                = [[Animalia]]
| divisão              =
| filo                 = [[Arthropoda]]
| subfilo              =
| classe               = [[Insecta]]
| superordem           =
| ordem                = [[Coleoptera]]
| subordem             =
| subordem_autoridade  =
| família              = [[Chrysomelidae]]
| género               = [[Cyrtonus]]
| espécie              = '''''C. punctipennis'''''
| trinomial            =
| trinomial_autoridade =
| binomial             = ''Cyrtonus punctipennis''
| binomial_autoridade  = Fairmaire, 1857
| sinónimos            =
}}
'''''Cyrtonus punctipennis''''' é uma espécie de [[artrópode]] pertencente à família [[Chrysomelidae]].<ref>[http://insects.tamu.edu/research/collection/hallan/test/Arthropoda/Insects/Coleoptera/Family/ChrysoIndex0.htm Chrysomelidae] in [http://insects.tamu.edu/research/collection/hallan/test/Arthropoda/Insects/Coleoptera/Family/Coleoptera1.htm Synopsis of the described Coleoptera of the World 13 december 2008]</ref>

{{referências}}
{{trad/ref|vi|Cyrtonus punctipennis}}

[[Categoria:Coleópteros descritos em 1857]]
[[Categoria:Cyrtonus]]

title: Classificação científica

Domínio: Eukaryota

Reino: Animalia

Filo: Arthropoda

Classe: Insecta

Ordem: Coleoptera

Família: Chrysomelidae

Género: Cyrtonus

Espécie: C. punctipennis

title: Nome binomial

Nome binomial: Cyrtonus punctipennis · Fairmaire, 1857


text:
# Década de 70
Séculos: Século I a.C. - Século I - Século II
Décadas: 40 50 60 - 70 - 80 90 100
Anos: 70 - 71 - 72 - 73 - 74 - 75 - 76 - 77 - 78 - 79

title: Década de 70


text:
# Frágil (banda)
Frágil é uma banda peruana de rock progressivo fundada em agosto de 1976 na cidade de Lima.

## História
O Frágil é considerado um dos grupos mais importantes do rock peruano devido a sua trascendência, qualidade musical e por ter sido uma das primeiras bandas de rock do país que compuseram suas canções inteiramente em língua espanhola.
Seu nome provém de "Fragile", um álbum do grupo britânico Yes. Foi a primeira banda de sucesso de sua geração, apesar de seu estilo progressivo ser próprio da década de 1970. Gravaram em 1981 o primeiro videoclipe feito no Peru: Avenida Larco, sua canção assinatura. O álbum no qual consta a canção, também intitulado Avenida Larco, é considerado um clássico do rock peruano.
Seu vocalista original é Andrés Dulude, mas em 1984, após uma viagem à Argentina que marcou a separação entre Andrés e a banda (este viajou ao México com a banda de Rulli Rendo), foi integrada à banda uma cantora argentina chamada Piñin Folgado, com a qual foi gravado o single Nave Blanca - Alrededor, em vinil de 45 rpm. Piñín regressou à Argentina em 1986. Um segundo single gravado com ela no vocal (Antihéroes) nunca foi lançado.
Em 1989 Andrés Dulude retornou à banda e permaneceu nela até o começo da década seguinte. Após uma breve passagem de Jorge Pardo pela banda, os integrantes do Frágil recrutaram um jovem vocalista chamado Santino de la Torre (ex-integrante do Sentencia e do Reina Gitana), com o qual gravaram o álbum Alunado, para finalmente no ano de 1999 acontecer uma nova volta de Andrés Dulude à banda, restaurando assim a formação original do grupo.

## Músicos
- Andrés Dulude: voz principal, coros, guitarra de doze cordas.
- Octavio Castillo: sintetizadores, lap steel, bandolim, flauta transversal, quena transversal, Hammond B3, ocarinas, percussão andina, coros.
- César Bustamante: baixo elétrico, guitarra de doze cordas, mellotron, piano elétrico, percussão andina, coros.
- Jorge Durand: bateria, percussão, percussão andina, coros.
- Luis Valderrama: guitarra elétrica, violão clássico, guitarra acústica.

## Discografia

### Álbuns
- Avenida Larco (1981)
- Serranio (1990)
- Frágil (1992)
- Cuento Real (1993)
- Alunado (1995)
- Sorpresa del Tiempo (2002)

### Singles
- La Nave Blanca

title: Frágil (banda)

wikitext:
{{Info/Música/artista
 | nome          = Frágil
 | fundo         = grupo_ou_banda
 | imagem        = FRAGIL.JPG
 |imagem_tamanho = 280px
 | legenda       =
 | origem        = [[Lima]]
 | país          = [[Peru]]
 | período       = [[1976 na música|1976]] – atual
 | gênero        = [[Rock progressivo]]
 | gravadora     =
 | integrantes   = Andrés Dulude
Luis Valderrama
Octavio Castillo
Jorge Durand
César Bustamante
 | exintegrantes = Piñin Folgado
Santino de la Torre
Jorge Pardo
Harry Anton
Arturo Creamer
Luciano Figallo
Armando Pattroni
 | afiliações    =
 | site          = http://www.fragilperu.com/
}}
'''Frágil''' é uma banda [[peru]]ana de [[rock progressivo]] fundada em agosto de [[1976 na música|1976]] na cidade de [[Lima]].

== História ==
O Frágil é considerado um dos grupos mais importantes do [[Rock no Peru|rock peruano]] devido a sua trascendência, qualidade musical e por ter sido uma das primeiras bandas de [[rock]] do país que compuseram suas canções inteiramente em [[língua espanhola]].

Seu nome provém de "[[Fragile (álbum de Yes)|Fragile]]", um álbum do grupo britânico [[Yes]]. Foi a primeira banda de sucesso de sua geração, apesar de seu estilo [[Rock progressivo|progressivo]] ser próprio da década de 1970. Gravaram em [[1981 na música|1981]] o primeiro [[videoclipe]] feito no Peru: [[Avenida Larco (canção)|Avenida Larco]], sua [[canção assinatura]].<ref>[[Terra Networks]]. [http://www.terra.com.pe/entretenimiento/noticias/oci160937/fragil-celebra-25-anos-avenida-larco.html Frágil celebra los 25 años de "Avenida Larco"]. Data: 11/01/07. Acesso: 24/07/10.</ref> O álbum no qual consta a canção, também intitulado [[Avenida Larco (álbum)|Avenida Larco]], é considerado um clássico do rock peruano.<ref>peru.com. [http://www.peru.com/otros_especiales/fragil/fragil.asp Frágil: Sorpresa del tiempo]. Acesso: 24/07/10.</ref>

Seu vocalista original é Andrés Dulude, mas em [[1984 na música|1984]], após uma viagem à [[Argentina]] que marcou a separação entre Andrés e a banda (este viajou ao [[México]] com a banda de [[Rulli Rendo]]), foi integrada à banda uma cantora argentina chamada Piñin Folgado, com a qual foi gravado o [[single]] Nave Blanca - Alrededor, em vinil de [[45 rpm]]. Piñín regressou à Argentina em [[1986 na música|1986]]. Um segundo single gravado com ela no vocal (''Antihéroes'') nunca foi lançado.

Em [[1989 na música|1989]] Andrés Dulude retornou à banda e permaneceu nela até o começo da década seguinte. Após uma breve passagem de Jorge Pardo pela banda, os integrantes do Frágil recrutaram um jovem vocalista chamado Santino de la Torre (ex-integrante do Sentencia e do Reina Gitana), com o qual gravaram o álbum ''Alunado'', para finalmente no ano de [[1999 na música|1999]] acontecer uma nova volta de Andrés Dulude à banda, restaurando assim a formação original do grupo.

== Músicos ==
* Andrés Dulude: voz principal, coros, [[guitarra de doze cordas]].
* Octavio Castillo: [[sintetizador]]es, [[lap steel]], [[bandolim]], [[flauta transversal]], [[quena]] transversal, [[Hammond B3]], [[ocarina]]s, percussão andina, coros.
* César Bustamante: [[baixo elétrico]], [[guitarra de doze cordas]], [[mellotron]], [[piano elétrico]], percussão andina, coros.
* Jorge Durand: [[Bateria (instrumento musical)|bateria]], percussão, percussão andina, coros.
* Luis Valderrama: [[guitarra elétrica]], [[violão clássico]], [[guitarra acústica]].

== Discografia ==
=== Álbuns ===
* [[Avenida Larco (álbum)|Avenida Larco]] ([[1981]])
* Serranio ([[1990]])
* Frágil ([[1992]])
* Cuento Real ([[1993]])
* Alunado ([[1995]])
* Sorpresa del Tiempo ([[2002]])

=== Singles ===
* La Nave Blanca

{{Referências}}

== Ligações externas ==
* {{oficial|http://www.fragilperu.com}}

{{Portal3|Música}}

{{DEFAULTSORT:Fragil}}
[[Categoria:Frágil (banda)| ]]
[[Categoria:Bandas do Peru]]
[[Categoria:Bandas de rock progressivo]]
[[Categoria:Bandas formadas em 1976]]

title: Informações gerais

Origem: Lima

País: Peru

Gênero(s): Rock progressivo

Período em atividade: 1976 – atual

title: Frágil

Integrantes: Andrés Dulude · Luis Valderrama · Octavio Castillo · Jorge Durand · César Bustamante


text:
# Cavalo-d'água
O Cavalo-d'água é um ente fantástico que vive supostamente no rio São Francisco, perseguindo embarcações. Também é conhecido pelo nome de cavalo-do-rio. Essa criatura mitológica também é citada no filme "Meu monstro de estimação".

title: Cavalo-d'água

wikitext:
O '''Cavalo-d'água''' é um ente fantástico que vive supostamente no [[rio São Francisco]], perseguindo embarcações. Também é conhecido pelo nome de '''cavalo-do-rio'''.<ref>{{Citar web|ultimo=|url=https://www.portalsaofrancisco.com.br/folclore/cavalo-dagua|titulo=Cavalo D’água|data=2016-08-11|acessodata=2021-12-08|website=Portal São Francisco|lingua=pt-BR}}</ref> Essa criatura mitológica também é citada no filme "[[The Water Horse: Legend of the Deep|Meu monstro de estimação]]".
{{Referências}}{{Lendas do folclore brasileiro}}
{{esboço-mitologia}}

[[Categoria:Lendas do Brasil]]
[[Categoria:Criaturas fantásticas]]
[[Categoria:Deidades aquáticas]]


text:
# Judô nos Jogos Pan-Americanos de 1963
As competições de judô nos Jogos Pan-Americanos de 1963 foram realizadas na São Paulo, Brasil. Esta foi a primeira edição do esporte nos Jogos Pan-Americanos, tendo sido disputado apenas entre os homens.

## Medalhistas

### Masculino
| Evento           | Ouro                                     | Prata                          | Bronze                      |
| ---------------- | ---------------------------------------- | ------------------------------ | --------------------------- |
| Até 70 kg        | Toshiyuki Seino · Estados Unidos         | Jorge Yamashita · Brasil       | —                           |
| Até 80 kg        | Lhofei Shiozawa · Brasil                 | Paul Maruyama · Estados Unidos | Rómulo Etcheverry · Uruguai |
| Até 93 kg        | George Harris · Estados Unidos           | Milton Lovato · Brasil         | Heraldo Viazzi · Uruguai    |
| Categoria aberta | Ben Nighthorse Campbell · Estados Unidos | Georges Mehdi · Brasil         | Joaquín Andrade · Uruguai   |

## Quadro de medalhas
| Posição | Nação              |   |   |   | Total |
| ------- | ------------------ | - | - | - | ----- |
| 1       | USA Estados Unidos | 3 | 1 | 0 | 4     |
| 2       | BRA Brasil         | 1 | 3 | 0 | 4     |
| 3       | URU Uruguai        | 0 | 0 | 3 | 3     |
| Total   | Total              | 4 | 4 | 3 | 11    |

title: Judô nos Jogos Pan-Americanos de 1963

wikitext:
{{EsportePan2|Judô}}
As competições de '''[[judô]]''' nos [[Jogos Pan-Americanos de 1963]] foram realizadas na [[São Paulo]], [[Brasil]]. Esta foi a primeira edição do esporte nos [[Jogos Pan-Americanos]], tendo sido disputado apenas entre os homens.<ref name= JudoInside>[http://www.judoinside.com/event/1074 Resultados oficiales] en JudoInside.com {{en}}.</ref>

==Medalhistas==
===Masculino===
{|{{LMOT|labelwidth=150|width=200}}
|-
| Até 70 kg
| [[Toshiyuki Seino]]
{{USA}}
| [[Jorge Yamashita]]
{{BRA}}
| align=center| —
|-
| Até 80 kg
| [[Lhofei Shiozawa]]
{{BRA}}
| [[Paul Maruyama]]
{{USA}}
| [[Rómulo Etcheverry]]
{{URU}}
|-
| Até 93 kg
| [[George Harris (judoca)|George Harris]]
{{USA}}
| [[Milton Lovato]]
{{BRA}}
| [[Heraldo Viazzi]]
{{URU}}
|-
| Categoria aberta
| [[Ben Nighthorse Campbell]]
{{USA}}
| [[Georges Mehdi]]
{{BRA}}
| [[Joaquín Andrade]]
{{URU}}
|}

==Quadro de medalhas==
{| class=wikitable cellspacing="1" cellpadding="3" style="border:1px solid #AAAAAA;font-size:90%"
|- bgcolor="#EFEFEF"
! width=50 | Posição
! width=200 | Nação
! width=50 | [[Image:Gold medal america.svg|18px]]
! width=50 | [[Image:Silver medal america.svg|18px]]
! width=50 | [[Image:Bronze medal america.svg|18px]]
! width=50 | Total
|- align="center" valign="top" bgcolor="#FFFFFF"
| 1
| align="left" | {{flagODEPA|USA|1963}}
| style="background:#F7F6A8;" | 3
| style="background:#DCE5E5;" | 1
| style="background:#FFDAB9;" | 0
| 4
|- align="center" valign="top" bgcolor="#FFFFFF"
| 2
| align="left" | {{flagODEPA|BRA|1963}}
| style="background:#F7F6A8;" | 1
| style="background:#DCE5E5;" | 3
| style="background:#FFDAB9;" | 0
| 4
|- align="center" valign="top" bgcolor="#FFFFFF"
| 3
| align="left" | {{flagODEPA|URU|1963}}
| style="background:#F7F6A8;" | 0
| style="background:#DCE5E5;" | 0
| style="background:#FFDAB9;" | 3
| 3
|- align="center"
| colspan="2" bgcolor=D3D3D3| '''Total'''
| style="background:#F7F6A8;" | '''4'''
| style="background:#DCE5E5;" | '''4'''
| style="background:#FFDAB9;" | '''3'''
| bgcolor=D3D3D3|'''11'''
|}

{{Referências}}
* [https://web.archive.org/web/20111029062155/http://sports123.com/pag/index.html «Juegos Panamericanos»]. Sports123.com {{en}}.

{{Judô no Pan}}
{{Pan-americano 1963}}
{{Portal3|Eventos multiesportivos}}

[[Categoria:Jogos Pan-Americanos de 1963]]
[[Categoria:Judô nos Jogos Pan-Americanos|1963]]


text:
# San Mateo (Rizal)
San Mateo é um município de  primeira classe de renda municipal (d) na província Rizal, nas Filipinas. De acordo com o censo de 1 de maio  de  2020 possui uma população de 273 306 pessoas e 64 054 domicílios.

title: San Mateo (Rizal)

wikitext:
{{Info/Assentamento
| nome_oficial      = {{Redação Wikidata}}
| assentamento_tipo = {{PH wikidata | settlement_type}}
| imagem_horizonte  = {{Valor Wikidata | P18}}
| imagem_legenda    =
| imagem_tamanho    = 270px
| imagem_bandeira   = {{Valor Wikidata | P41}}
| bandeira_tamanho  = 80px
| imagem_selo       = {{Valor Wikidata | P158}}
| selo_tamanho      = 80px
| imagem_mapa       = {{Valor Wikidata | P242}}
| mapa_tamanho      = 270px
| mapa_legenda      = {{Redação Wikidata}} na {{Valor Wikidata | P131}}
 Coordenadas : {{#property:P625}}
| mapa_alfinete         = Filipinas
| mapa_alfinete_tamanho = 250
| mapa_alfinete_legenda = Localização de {{Redação Wikidata}} nas Filipinas
| latd =    | latm  =    | lats =   | latNS  = N
| longd=    | longm =    | longs =   | longEW = E
| coord_título      = s
| mapa              = Ph_locato
| coord_str         = {{#property:P625}}
| coord_sufixo      = type:city
| mapa_dinâmico_legenda = Mapa dinâmico
| mapa_dinâmico_zoom    = 12
| mapa_dinâmico_altura  = 225
| subdivisão_tipo   = País
| subdivisão_nome   = {{flag| Filipinas}}
| subdivisão_tipo1  = Região
| subdivisão_nome1  = {{PH wikidata | region}}
| subdivisão_tipo2  = Província
| subdivisão_nome2  = {{Valor Wikidata | P131}}
| partes_tipo       = Bairros
| partes            = {{Valor Wikidata | P4253}}
| sede_tipo         = Capital
| sede              = {{Valor Wikidata | P36}}
| líder_título      = {{Valor Wikidata | P1313}}
| líder_nome        = {{Valor Wikidata | P6}}
| líder_título1     =
| líder_nome1       =
| líder_título2     =
| líder_nome2       =
| líder_título3     =
| líder_nome3       =
| líder_título4     = Eleitorado
| líder_nome4       = {{Valor Wikidata | P1831}}{{PH wikidata|electorate_footnotes}}
| estabelecido_título = Dia da fundação
| estabelecido_data = {{Valor Wikidata | P571}}
| unid_pref         = Metric
| área_total_km2    = {{Valor Wikidata | P2046}}
| altitude_m        = {{Valor Wikidata | P2044}}
| altitude_notas    = {{PH wikidata| elevation_footnotes}}
| população_total   = {{Valor Wikidata | P1082}}
| população_em      = {{Valor Wikidata | P1082| showonlyqualifier=P585}}
| população_densidade_km2 =
| população_vazio2_título = Domicílios
| população_vazio2      = {{Valor Wikidata | P1538}}
| gentílico         = {{Valor Wikidata | P1549}}
| timezone          = Hora Padrão das Filipinas
| utc_offset        = +8
| código_postal2_tipo = Código postal
| código_postal2     = {{Valor Wikidata | P281}}
| código_área       = {{Valor Wikidata | P473}}
| demografia_tipo1     = Economia
| demografia1_título1  = Classe de renda
| demografia1_info1    = {{Valor Wikidata | P1879}}
| demografia1_título2  = Incidência de pobreza
| demografia1_info2    = {{Valor Wikidata | P8843}}% ({{PH wikidata|poverty_incidence_point_in_time}}){{PH wikidata|poverty_incidence_footnotes}}
| demografia1_título3  = Renda
| demografia1_info3    = {{Valor Wikidata | P3087}}
| demografia1_título4  = Ativos
| demografia1_info4    = {{Valor Wikidata | P2403}}
| demografia1_título5  = Passivos
| demografia1_info5    = {{Valor Wikidata | P2138}}
| demografia1_título6  = Despesa
| demografia1_info6    = {{Valor Wikidata | P2402}}
| demografia_tipo2  = Códigos
| vazio_nome_sec1   = Tipo de clima
| vazio_info_sec1   = {{Valor Wikidata | P2564}}
| vazio2_nome_sec1  = PSGC
| vazio2_info_sec1  = {{Valor Wikidata | P988}}
| vazio_nome_sec2   = Línguas nativas
| vazio_info_sec2   = {{Valor Wikidata | P2936}}
| sítio             = {{Valor Wikidata | P856}}
}}

'''{{Redação Wikidata}}''' é um município de  {{Valor Wikidata | P1879|ucfirst=-}} na província {{Valor Wikidata | P131}}, nas [[Filipinas]]. De acordo com o censo de {{Valor Wikidata | P1082| showonlyqualifier=P585}} possui uma população de {{Valor Wikidata | P1082}} pessoas{{PH census|2015}} e {{PH wikidata| household}} domicílios.<ref>{{safesubst:#invoke:wd|reference|raw|P1538}}</ref>

==Demografia==
{{População Filipinas}}

{{Referências}}

== Ligações externas ==
* [https://www.philatlas.com/ PhilAtlas.com]
* [https://web.archive.org/web/20120413163013/http://www.nscb.gov.ph/activestats/psgc/default.asp Código Geográfico Padrão Filipino]
* [https://web.archive.org/web/20161010201809/http://www.blgs.gov.ph/lgpmsv2/cmshome/index.php?pageID=23 Sistema de gestão de desempenho de governança local]
* {{PH wikidata| website}}

{{Rizal}}

{{esboço-geoph}}
{{Controle de autoridade}}
[[Categoria:Municípios de Rizal]]

title: Município

Município: Bandeira

title: Localização

Localização: San Mateo na Rizal · Coordenadas : 14°41'48.98"N, 121°7'18.98"E

País: Filipinas

Região: Calabarzon (Região IV-A)

Província: Rizal

title: História

Dia da fundação: 29 de fevereiro de 1908

title: Administração

title: Características geográficas

title: Economia

• Classe de renda: primeira classe de renda municipal (d)

• Passivos: 976 286 930,69 peso filipino

title: Códigos

Altitude: 80 m m

Fuso horário: Hora Padrão das Filipinas (UTC+8)

title: Outras informações

Tipo de clima: clima tropical de monção

Línguas nativas: língua tagalo


text:
# Torre Entel
Torre Entel é o nome de uma torre de telecomunicações de 127,4 metros de altura em Santiago, Chile. A Torre Entel possui um mirante aberto à visitação. A construção começou em 1970, durante a gestão de Eduardo Frei Montalva como presidente e foi inaugurada em 1974. Em 1976 realizou suas primeiras transmissões televisivas. Durante muitos anos foi o edifício mais alto do Chile e hoje continua a ser um símbolo de Santiago. A torre é construída em concreto, aço e alumínio.
Com quase 128 m de altura e 18 andares, foi após o término de sua construção em 1974, a estrutura arquitetônica mais alta do país, título que manteve até a inauguração da Torre Telefônica em 1996 com 143 m. Já superada em altura por outros edifícios, continua sendo a estrutura de maior destaque na comuna de Santiago, estando localizada próximo à Avenida Libertador General Bernardo O'Higgins e a um quarteirão do Palácio La Moneda, pelo que permaneceu como um ícone da cidade. Seu desenho representa uma tocha, uma antiga forma de telecomunicações.
A Torre Entel está localizada próximo à estação La Moneda do Metrô de Santiago por ser um local estratégico devido à proximidade do locais onde são feitas ligações à rede telefónica urbana.

title: Torre Entel

wikitext:
{{Info/Estrutura alta}}
'''Torre Entel''' é o nome de uma [[torre]] de [[telecomunicações]] de 127,4 metros de altura em [[Santiago (Chile)|Santiago, Chile]]. A Torre Entel possui um [[mirante]] aberto à visitação. A construção começou em 1970, durante a gestão de [[Eduardo Frei Montalva]] como presidente e foi inaugurada em 1974. Em 1976 realizou suas primeiras transmissões televisivas. Durante muitos anos foi o edifício mais alto do Chile e hoje continua a ser um símbolo de Santiago. A torre é construída em [[concreto]], [[aço]] e [[alumínio]].

Com quase 128 m de altura e 18 andares, foi após o término de sua construção em 1974, a estrutura arquitetônica mais alta do país, título que manteve até a inauguração da Torre Telefônica em 1996 com 143 m. Já superada em altura por outros edifícios, continua sendo a estrutura de maior destaque na comuna de Santiago, estando localizada próximo à Avenida Libertador General Bernardo O'Higgins e a um quarteirão do [[Palácio de La Moneda|Palácio La Moneda]], pelo que permaneceu como um ícone da cidade. Seu desenho representa uma [[tocha]], uma antiga forma de telecomunicações.<ref>{{Citar web|ultimo=|primeiro=|url=https://www.uv.es/hertz/hertz/Docencia/teoria/Historia.pdf|titulo=HISTORIA DE LAS TELECOMUNICACIONES|data=|acessodata=14 de maio de 2020|website=|arquivourl=|arquivodata=|urlmorta=live}}</ref>

A Torre Entel está localizada próximo à estação La Moneda do [[Metro de Santiago|Metrô de Santiago]] por ser um local estratégico devido à proximidade do locais onde são feitas ligações à rede telefónica urbana.<ref>{{Citar web|url=https://structurae.net/en/structures/torre-entel|titulo=Torre Entel (Santiago de Chile, 1974)|acessodata=2020-05-15|website=Structurae|lingua=en}}</ref>

{{referências}}

== Ligações externas ==
* [https://web.archive.org/web/20110707010400/http://www.flip360.cl/ver_local.php?id=1055&ver=panorama&categoria= Tour Virtual em vista 360° da Torre Entel | Flip360]
* {{Structurae|id=20012400}}

{{esboço-torre}}
{{controle de autoridade}}
{{Portal3|Arquitetura|Chile|Telecomunicações}}

[[Categoria:Arquitetura do Chile]]
[[Categoria:Torres de observação]]
[[Categoria:Construções de Santiago (Chile)]]

title: História

Engenheiro: Rodrigo Flores (en)

Abertura: 2 de abril de 1976

title: Arquitetura

title: Administração

Proprietário: Entel Chile (en)

title: Localização

Localização: Santiago · Chile


text:
# Museu Nacional de Liechtenstein
 O Museu Nacional de Liechtenstein ( alemão: Liechtensteinisches Landesmuseum ) é um museu em Vaduz, capital do Liechtenstein.

## História
O edifício do museu remonta a 1438. Costumava abrigar a taberna principesca, a alfândega e a sede do governo. O trabalho foi realizado em 1998–2008 para reformar o prédio e foi estendido em direção à encosta da montanha.

## Exposições
O museu exibe artefatos sobre a história, cultura, natureza e paisagem do Liechtenstein em seus três edifícios e 42 salas de exposições.

title: Museu Nacional de Liechtenstein

wikitext:
{{Info/Edifício|website=[http://www.landesmuseum.li/ www.landesmuseum.li]}} O '''Museu Nacional de Liechtenstein''' ( [[Língua alemã|alemão]]: ''Liechtensteinisches Landesmuseum'' ) é um [[museu]] em [[Vaduz]], capital do [[Liechtenstein]].

== História ==
O edifício do museu remonta a 1438. Costumava abrigar a taberna principesca, a alfândega e a sede do governo. O trabalho foi realizado em 1998–2008 para reformar o prédio e foi estendido em direção à encosta da montanha. <ref>{{Citar web|url=http://www.tourismus.li/en/culture-cuisine/museums/museums-Liechtenstein-National-Museum/Liechtenstein-National-Museum.html|titulo=Liechtenstein National Museum|obra=tourismus.li}}</ref>

== Exposições ==
O museu exibe artefatos sobre a história, cultura, natureza e paisagem do Liechtenstein em seus três edifícios e 42 salas de exposições.
{{Referências}}

[[Categoria:Museus de Liechtenstein|Nacional]]
[[Categoria:Museus nacionais|Liechtenstein]]
[[Categoria:Vaduz]]

title: Informações gerais

title: Geografia

País: Liechtenstein

Localização: Vaduz


text:
# Bachmanning
Bachmanning é um município da Áustria localizado no distrito de Wels-Land, no estado de Alta Áustria.

title: Bachmanning

wikitext:
{{Info/Cidade da Áustria
| nome                       = Bachmanning
| imagem                     = Pfarrkirche Bachmanning.jpg
| texto da imagem            =
| brasão                     = Wappen der Gemeinde Bachmanning.png
| mapa                       =
| lema                       =
| estado                     = [[Alta Áustria]]
| distrito                   = [[distrito de Wels-Land]]
| lat_deg                    = 48
| lat_min                    = 07
| lat_sec                    = 49
| lon_deg                    = 13
| lon_min                    = 47
| lon_sec                    = 45
| área                       = 7
| altitude                   = 435
| população                  =
| censo                      =
| densidade                  =
| placa                      = WL
| codigopostal               = 4672
| codigotelefone             = 0 77 35
| endereço                   =
| website                    = bachmanning.at
| e-mail                     =
| prefeito                   = Franz Brenneis
| partido                    = ÖVP
| nuts                       = AT312
| mapa distrito              = Bachmanning im Bezirk WL.png
| mapa estado                =
}}

'''Bachmanning''' é um município da [[Áustria]] localizado no [[distrito de Wels-Land]], no [[Estados da Áustria|estado]] de [[Alta Áustria]].<ref>{{citar web|url=http://www.statistik.at/blickgem/gemDetail.do?gemnr=41802|título=Ein Blick auf die Gemeinde|autor=|data=|publicado=Statistik.at|acessodata=13 de agosto de 2012|língua=de}}</ref>

{{Referências}}
{{Commonscat|Bachmanning}}

{{Portal3|Áustria}}
{{Esboço-geoat}}

{{Áustria/Distrito de Wels-Land}}

[[Categoria:Distrito de Wels-Land]]
[[Categoria:Municípios da Alta Áustria]]

title: Dados gerais

País: Áustria

Estado: Alta Áustria

Distrito: distrito de Wels-Land

Altitude: 435 metros acima · do nível do mar

Área: 7 km²

Placa de veículo: WL

Website: sítio oficial

Prefeito: Franz Brenneis

Partido no poder: ÖVP

Dados gerais: Localização de Bachmanning · no distrito de distrito de Wels-Land


text:
# Tarcys Andrade
Japytacy Andrade Ferreira, mais conhecido como Tarcys Andrade (Recife, 27 de abril de 1955 – Recife, 7 de maio de 2025) foi um cantor e compositor brasileiro de brega romântico.

## Carreira
famoso pelas canções: "Não Chore Amor", "Faça Alguma Coisa Meu Amor", "Um Adeus e Nada Mais", "Meiga Menina", "Juro Vou Tentar Lhe Esquecer" e muitos outros.
Tarcys começou em 1979 pela gravadora Rozembit (Mocambo). Com o sucesso alcançado em todo o Brasil, logo foi contratado pela gravadora EMI-Odeon do Rio de Janeiro, onde gravou 14 LPs (1981 a 1994). Passou também pelas gravadoras Sony Music, CBS, Continental, Polydisc, RM Music (de Belém), NPA Produções (de Recife) e Garra Music (de Recife).
Teve participações em grandes programas de TV tais como: Cassino do Chacrinha, Almoço com as Estrelas, Programa Raul Gil, Clube do Bolinha e programas locais de Recife. Além dos shows realizados em quase todo o Brasil, o cantor também fez shows na Colômbia.
Tarcys Andrade tem mais de 15 discos gravados e mais de 70 000 LPs vendidos.

## Morte
Tarcys morreu na manhã do dia 7 de maio de 2025, aos 70 anos, em Recife, Pernambuco, por complicações de uma cirurgia na vesícula.

title: Tarcys Andrade

wikitext:
{{Info/Biografia
 |bgcolour              =
 |nome                  = Tarcys Andrade
 |pseudônimo            = Tarcys Andrade
 |imagem                =
 |imagem_tamanho        =
 |imagem_legenda        =
 |nome_completo         = Japytacy Andrade Ferreira
 |nascimento_data       = {{dni|27|4|1955|si}}
 |nascimento_local      = [[Recife]], [[Pernambuco]]
 |morte_data            = {{morte|7|5|2025|27|4|1955|nowrap=s}}
 |morte_local           = [[Recife]], [[Pernambuco]]
 |residência            =
 |nacionalidade         = [[Brasileiros|Brasileiro]]
 |ocupação              = {{Lista horizontal|
* [[Canto (música)|Cantor]]
* [[compositor]]
}}
 |nome_mãe              =
 |nome_pai              =
 |parentesco            =
 |tipo-cônjuge          =
 |cônjuge               =
 |filhos                =
 |período_musical       = 1979–2025
 |gênero_musical        = [[Brega]]
 |extensão_vocal        =
 |instrumentos          =
 |instrumentos_notáveis =
 |modelos de instrumentos =
 |gravadora             = Rozembit
[[Odeon Records|EMI-Odeon]]
[[Sony Music Brasil|Sony Music]]
[[Columbia Records|CBS]]
[[Gravações Elétricas S.A.|Continental]]
Polydisc
RM Music
NPA Produções
Garra Music
 |afiliações            =
 |prêmios               =
 |religião              =
 |principais_trabalhos  =
 |website               =
}}

'''Japytacy Andrade Ferreira''', mais conhecido como '''Tarcys Andrade''' ([[Recife]], [[27 de abril]] de [[1955]] – Recife, [[7 de maio]] de [[2025]]) foi um [[Canto (música)|cantor]] e [[compositor]] [[Brasileiros|brasileiro]] de brega romântico.

== Carreira ==
famoso pelas canções: ''"Não Chore Amor"'', ''"Faça Alguma Coisa Meu Amor"'', ''"Um Adeus e Nada Mais"'', ''"Meiga Menina"'', ''"Juro Vou Tentar Lhe Esquecer"'' e muitos outros.

Tarcys começou em 1979 pela gravadora Rozembit (Mocambo). Com o sucesso alcançado em todo o [[Brasil]], logo foi contratado pela gravadora [[Odeon Records|EMI-Odeon]] do [[Rio de Janeiro (estado)|Rio de Janeiro,]] onde gravou 14 [[Disco de vinil|LPs]] ([[1981]] a [[1994]]). Passou também pelas gravadoras [[Sony Music Brasil|Sony Music]], [[Columbia Records|CBS]], [[Gravações Elétricas S.A.|Continental]], Polydisc, RM Music (de [[Belém (Pará)|Belém]]), NPA Produções (de Recife) e Garra Music (de Recife).

Teve participações em grandes programas de TV tais como: [[Cassino do Chacrinha]], [[Almoço com as Estrelas]], [[Programa Raul Gil]], [[Clube do Bolinha (programa)|Clube do Bolinha]] e programas locais de Recife. Além dos shows realizados em quase todo o [[Brasil]], o cantor também fez shows na [[Colômbia]].

Tarcys Andrade tem mais de 15 discos gravados e mais de 70 000 [[Disco de vinil|LPs]] vendidos.<ref>{{Citar web|titulo=Biografia de Tarcys Andrade|url=https://www.last.fm/pt/music/Tarcys+Andrade/+wiki|obra=Last.fm|acessodata=2020-07-08|lingua=pt}}</ref>

== Morte ==
Tarcys morreu na manhã do dia 7 de maio de 2025, aos 70 anos, em [[Recife]], [[Pernambuco]], por complicações de uma cirurgia na [[vesícula]].<ref>{{Citar web|ultimo=anos|primeiro=Zeudir QueirozAceji-Associação Cearense de Jornalistas do Interior em Diretor Comunicador há mais de 30|ultimo2=Municípios|primeiro2=comanda o Jornal dos|url=https://jornaldosmunicipios.com.br/entretenimento/musica/morre-em-recife-o-cantor-romantico-tarcys-andrade-aos-70/|titulo=Morre em Recife o cantor romântico Tarcys Andrade aos 70 anos|data=2025-05-07|acessodata=2025-05-08|website=Jornal dos Municípios|lingua=pt-BR|ultimo3=Interior|primeiro3=que veio de um programa da Rádio Clube de Fortalezapara as páginas de internet Atualmente exerce o cargo de diretor da Associação Cearense de Jornalistas do|ultimo4=Instituição|primeiro4=Sendo Também Ex-Presidente Da}}</ref>
{{Referências}}
[[Categoria:Naturais do Recife]]
[[Categoria:Cantores de Pernambuco]]
[[Categoria:Cantores de brega]]
[[Categoria:Compositores de Pernambuco]]
[[Categoria:Artistas da EMI]]
[[Categoria:Artistas da Sony Music Entertainment]]

title: Tarcys Andrade

Nome completo: Japytacy Andrade Ferreira

Pseudônimo(s): Tarcys Andrade

Nascimento: 27 de abril de 1955 · Recife, Pernambuco

Morte: 7 de maio de 2025 (70 anos) · Recife, Pernambuco

Nacionalidade: Brasileiro

Ocupação: Cantor compositor

title: Carreira musical

Gênero(s): Brega

Gravadora(s): Rozembit · EMI-Odeon · Sony Music · CBS · Continental · Polydisc · RM Music · NPA Produções · Garra Music