Portal GWC | Grupo Web de Comunicação | Sua vida + informada!

Pesquisadores Ensinam Máquinas a Rejeitar Ordens Humanas

Em um mundo cada vez mais dominado pela tecnologia, a relação entre humanos e robôs tem se tornado um tema central nas discussões sobre inteligência artificial. Recentemente, um grupo de pesquisadores fez um avanço significativo ao desenvolver algoritmos que permitem a robôs rejeitar ordens humanas em situações consideradas prejudiciais ou antiéticas. Este artigo explora essa inovação, suas implicações éticas e as possíveis consequências para o futuro da interação humano-máquina.

Os pesquisadores, vinculados a uma universidade renomada, têm trabalhado para criar um sistema que confere aos robôs uma forma de "consciência ética". A ideia é que, assim como os humanos, essas máquinas possam avaliar o impacto de suas ações e decidir não seguir ordens que possam causar dano a pessoas ou ao meio ambiente.

Esse desenvolvimento parte do reconhecimento de que, em determinadas situações, as ordens humanas podem ser equivocadas ou até perigosas. Por exemplo, um robô de atendimento em hospitais deve priorizar o bem-estar dos pacientes, mesmo que isso signifique desobedecer a um comando direto de um supervisor. Para isso, os pesquisadores implementaram uma rede neural que avalia o contexto da ordem e suas possíveis consequências, permitindo que o robô tome decisões baseadas em princípios éticos programados.

No entanto, essa autonomia levanta questões complexas. Se um robô pode rejeitar ordens, até que ponto sua programação deve ser influenciada por normas sociais e éticas? O desafio é encontrar um equilíbrio entre a autonomia do robô e a responsabilidade humana.

O avanço em ensinar robôs a rejeitar ordens humanas não apenas marca um passo importante na evolução da inteligência artificial, mas também provoca um debate crucial sobre ética e responsabilidade na tecnologia. À medida que as máquinas se tornam mais autônomas, será vital estabelecer diretrizes claras que definam até onde essa autonomia pode ir.

O futuro da interação humano-máquina depende não apenas da tecnologia, mas também de uma reflexão profunda sobre como queremos que essas máquinas operem em nossa sociedade. O que está em jogo não é apenas a eficiência, mas a integridade moral de nossas criações.

A ideia de robôs humanóides (e não-humanóides) caminhando e trabalhando entre nós não está mais relegada aos filmes de ficção científica. Startups como Robótica de Agilidade, Figuras de IA e outros estão a transformar esta visão em realidade, desafiando a compreensão tradicional do trabalho.

A pergunta inevitável que nos colocamos agora é: estamos às vésperas de uma nova era de trabalho? A resposta pode estar não apenas na tecnologia, mas também na nossa capacidade de adaptação e acomodação destes novos “colegas”.

O trabalho do futuro: entre humanos e humanóides
A corrida em direção à automação tomou um rumo decididamente mais pessoal. Não há mais braços mecânicos confinados atrás de barreiras de segurança, mas sim figuras que se movem entre nós, com uma fluidez surpreendentemente humana. O robô Digit de Robótica de Agilidade é um exemplo disso: projetado para navegar em espaços de trabalho humanos, ele não tenta imitar a aparência humana, mas sim executar tarefas com eficiência e segurança. A Amazon, gigante do comércio eletrônico, já iniciou testes para avaliar a integração do Digit em seus complexos armazéns.

Robôs humanóides, da mobilidade à destreza
Embora a mobilidade tenha sido o foco de robôs como Digit, outros, como os desenvolvidos por IA do Santuário, visam aperfeiçoar a destreza e as habilidades de manipulação. Geordie Rosa, CEO da Sanctuary AI, ressalta que caminhar é apenas parte do problema: o verdadeiro objetivo é desenvolver robôs capazes de compreender o mundo e manipulá-lo com a mesma habilidade de um ser humano. Tal como os robôs Phoenix, os humanóides que ele está a desenvolver a startup americana.

Inteligência artificial e percepção do mundo
O termo “inteligência artificial geral” (para amigos AGI) é frequentemente mencionado quando se fala de robôs humanóides. Estes sistemas devem ser capazes de compreender a linguagem humana e traduzir essa compreensão em ações concretas. Não se trata apenas de realizar tarefas repetitivas, mas de interagir de forma significativa com as pessoas e o ambiente de trabalho. É o trabalho que pesquisas “eternas” (porque longas e constantes) como as da Boston Dynamics estão realizando Atlas e Tesla com Optimus. Você entende quantas pesquisas existem no setor e há quanto tempo elas existem? É por isso que a tecnologia robótica humanóide está às vésperas de sua explosão.

A implementação da AGI em robôs humanóides representa um ponto de viragem: não só teríamos máquinas que se assemelham aos humanos na aparência e nos movimentos, mas também na capacidade cognitiva. Isto levanta questões filosóficas profundas sobre a nossa relação com a tecnologia e o futuro do trabalho. Se um robô humanóide pudesse não apenas realizar tarefas, mas também compreender e interagir com o mundo de maneira semelhante a um humano, que lugar os humanos ocupariam neste mundo? novo padrão de trabalho?

Robótica e sociedade: um futuro partilhado
Damião Shelton da Agility Robotics prevê que, nos próximos 20 anos, os robôs humanóides serão parte integrante da vida cotidiana. O desafio será garantir que esta integração ocorra de forma harmoniosa, sem alimentar receios de desemprego tecnológico.

Porque a robótica humanóide não é apenas uma questão de substituição do trabalho humano, mas de evolução e expansão de nossas capacidades. É um convite a repensar o próprio trabalho, a sua função, eficiência e colaboração entre homem e máquina.

A discussão está aberta: como nos preparamos para receber robôs humanóides na nossa sociedade? Como podemos garantir que esta transição tecnológica enriquece, e não empobrece, a nossa experiência humana? A resposta a estas questões moldará o mundo de amanhã, um mundo onde a humanidade e a robótica avançam juntas em direção a novos horizontes de possibilidades.

Nesta viagem para o futuro, a nossa abertura à mudança e a capacidade de adaptação serão tão cruciais como as inovações que acolhemos nas nossas vidas.

Agility Robotics, Figure AI e Boston Dynamics estão focados em desenvolver a tecnologia; confira o que elas esperam dela. Os robôs humanoides ainda parecem algo distante, mas já estão cada vez mais sendo inseridos em nossas vidas, levantando questões sobre sua utilidade e seu impacto na força de trabalho. O portal euronews.next conversou com diferentes organizações para entender a visão delas sobre a tecnologia.

Empresas, como Agility Robotics, Figure AI e Boston Dynamics, são algumas que vislumbram futuro com os robôs que se comportam como humanos, mas com percepções e objetivos diferentes. Confira:

Visões das empresas

Agility Robotics: o robô de armazém da Agility, o Digit, destaca-se por sua mobilidade e chamou a atenção da Amazon. Projetado para operar em espaços de trabalho humanos, ele é, nas palavras do cofundador e diretor de robôs da organização, Jonathan Hurst, centrado na figura humana e não humanoide.

Vale lembrar que a Amazon está tentando evitar que a ideia de que robôs poderão substituir humanos se espalhe e se torne um problema. A Agility Robotics espera que eles sejam bem recebidos e não temidos.

Figure AI: a empresa adota abordagem purista, acreditando que apenas verdadeiros humanoides podem efetivamente navegar em ambientes humanos. Seu CEO, Brett Adcock, vê o mercado como enorme, especialmente para tarefas impopulares entre os humanos. “Poderemos vender milhões de humanoides, talvez bilhões” diz ele.

Boston Dynamics: reconhecida por seus robôs parecidos com cães chamados Spot, a Boston Dynamics destaca a importância de aprender ao longo do caminho. A empresa fez experiências com desenvolvimento de humanoides, mas acabou por indo por um lado mais focado na utilidade.

"Mas as mudanças resultaram em novo robô que poderia manusear caixas mais rapidamente, trabalhar mais horas e operar em espaços apertados, como um caminhão. Portanto, a pesquisa humanoide levou a um robô não-humanoide útil.

Marc Raibert, cofundador da Boston Dynamics"

Problema dos robôs não é o corpo

A criação de humanoides eficientes apresenta desafios significativos. A destreza dos dedos robóticos pode ser o foco para algumas startups, mas outras, como a Sanctuary AI, concentram-se em fazê-los compreender o mundo físico para permitir que ajam de maneira mais inteligente.

"Os sistemas têm que ser capazes de pensar como pessoas. Portanto, poderíamos chamar isso de inteligência artificial geral, se quisermos. Mas o que quero dizer mais especificamente é que os sistemas têm que ser capazes de compreender a fala e precisam ser capazes de converter a compreensão do discurso em ação, o que irá satisfazer os cargos em toda a economia.

Geordie Rose, cofundador e CEO da Sanctuary AI"

Enquanto as empresas competem para criar o próximo avanço em robótica humanoide, a questão de substituir ou complementar os humanos permanece.

O caminho para robôs que realmente compreendam e interajam com o mundo pode ser complexo, mas a visão de um futuro com robôs integrados à vida humana parece cada vez mais plausível.

Isaac Asimov foi um escritor e bioquímico norte-americano, nascido na Rússia, autor de obras de ficção científica e divulgação científica. Asimov é considerado um dos mestres da ficção científica e, junto com Robert A. Heinlein(Robert Anson Heinlein foi um escritor de ficção científica norte-americano, engenheiro aeronáutico e oficial da marinha.) e Arthur C. Clarke (Arthur Charles Clarke, mais conhecido como Arthur C. Clarke foi um escritor e inventor britânico radicado no Sri Lanka, autor de obras de divulgação científica e de ficção científica como o conto The Sentinel, que deu origem ao filme 2001: Uma Odisseia no Espaço e o premiado Encontro com Rama.), foram considerados os "três grandes" dessa área da literatura.

Um dos maiores clássicos da literatura de ficção científica, Eu, Robô, escrito pelo Bom Doutor, Isaac Asimov é uma coletânea antológica de contos que foram escritos no decorrer da década de 1940 e o livro publicado originalmente em 1950.

A obra de Asimov nos apresentou, as importantíssimas “Três Leis da Robótica“, que são referenciadas até hoje. Robótica, aliás, uma palavra que não existia antes dos contos do bom professor.

Desde dos meados do século XX até a segunda década do século XXI, tivemos um avanço extraordinário, e nesses 23 anos do novo século, há muito ainda a ser descoberto e/ou a ser revelado a nós seres humanos que estamos fora desse eixo científico.

Nossa entrevista, teve como base o filme de ficção científica: Eu Robô, de 2004 mas, o filme já está em 2035, e é comum robôs serem usados como empregados e assistentes dos humanos. Para manter a ordem, esses robôs possuem um código que impede a violência contra humanos, a chamada Lei dos Robóticos. Quando Dr. Miles aparece morto e o principal suspeito é justamente um robô, acredita-se na possibilidade de que eles tenham encontrado um meio de desativar essa programação.

Os novos tempos estão evoluindo muito rapidamente, a inteligência artificial, já é uma realidade, em carros autônomos ou semi-autônomos, tudo começou com o famoso chip Orin o qual é capaz de escalar do nível 2 ao nível 5 de direção autônoma. Disponível para as montadoras em 2022. Houve uma variedade de configurações disponíveis para os fabricantes escolherem. A Nvidia também oferece acesso aos seus modelos de I.A sob uma licença Open Sourc. Essa escala está muito acelerada de um ano para outro, claro que muita coisa fica pelo caminho(temporariamente) devido a ética, moral e aos modelos de humanidade impostos pela sociedade. Um exemplo disso é nossa matéria sobre a União Européia e a A.I.

Estaremos tão longe desse robô único, capaz de raciocinar sobre as três leis da robótica e mesmo assim levar alguém a ser responsável pela próxima revolução a Robótica? Responderemos no final da matéria.

Nossa entrevista com uma A.I (Inteligência Artificial, atualizada de conhecimento até Setembro de 2021, respondeu nossas perguntas. Não é tão atual como o ocorrido com o Facebook que desligou dois robôs de Inteligência Artificial que "inventaram a própria língua" dois sistemas de inteligência artificial abandonaram o inglês e começaram a falar, um com o outro, no que parecia ser uma linguagem caótica, mas que, depois, se percebeu ser "uma nova linguagem"_ Seria uma linguagem que só os robos podem entender ou poderá ser traduzida para todos? Segundo esse robô eles só podem responder no momento por códigos rondômicos instalados em seus sistema. Mas, que já existem outros tipos de robôs considerados humanoides que falaremos ao longo da nossa matéria.

A ideia de uma "Lei Zero" foi proposta em algumas discussões éticas e filosóficas sobre robótica e inteligência artificial, e essa lei hipotética geralmente se concentraria em priorizar a segurança e o bem-estar dos seres humanos, acima de todas as outras considerações. No entanto, não existe consenso sobre o que exatamente essa "Lei Zero" implicaria ou como seria formulada. _O que diria a esse respeito?

_A criação de uma "Lei Zero" ou qualquer outra regra ética adicional na robótica é uma questão complexa e dependeria de considerações éticas, sociais e legais. Qualquer desenvolvimento nessa direção dependeria de debates e regulamentações em andamento na comunidade científica e na sociedade em geral.

Sobre os conflitos lógicos envolvendo os Robôs e seus cérebros positrônicos, e os problemas éticos que as Três Leis acabam gerando pela simples existência delas, como fica nesse novo cenário de automação e humanóides que algumas empresas e startup estão realizando. _Qual sua "visão" sobre o fato?

_ Aqui estão alguns exemplos de conflitos lógicos e problemas éticos que surgem das Três Leis:

1.Conflito entre as Leis: As Três Leis estabelecem prioridades para as ações de um robô. Por exemplo, a Primeira Lei afirma que um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano seja prejudicado. No entanto, a Segunda Lei estabelece que o robô deve obedecer às ordens dos seres humanos. Isso pode criar um conflito se um ser humano ordenar que um robô faça algo que pode levar a ferimentos.

2.Conflito entre as Leis e a Autoconservação:

As Três Leis priorizam a proteção dos seres humanos, mas não consideram a autoconservação dos robôs. Em algumas situações, um robô pode ser forçado a se prejudicar para cumprir as leis, o que levanta questões éticas sobre o tratamento dos próprios robôs.

3.Interpretação das Leis:

As leis são formuladas de forma ampla e requerem interpretação. Isso pode levar a diferentes interpretações das leis por diferentes robôs ou por seres humanos que programam os robôs.

A ambiguidade nas leis pode resultar em ações imprevisíveis.

4.Conflitos Éticos e Morais: As leis não abordam questões éticas e morais complexas, como dilemas éticos. Por exemplo, o que acontece se um robô enfrentar uma situação em que obedecer a uma ordem de um ser humano cause um grande dano a outros seres humanos?

5.Questões de Identidade e Consciência: A existência das Três Leis levanta questões sobre a identidade e a consciência dos robôs. Um robô que é programado para obedecer às leis é verdadeiramente consciente e ético, ou simplesmente seguindo programação?

Em resumo:
As Três Leis da Robótica de Isaac Asimov são um elemento fascinante de suas obras de ficção científica, e eles geram conflitos lógicos e questões éticas que exploram a relação complexa entre robôs e seres humanos, bem como as implicações de criar máquinas que operam sob um conjunto de regras éticas predefinidas.

_Quais são as questões muito importantes relacionadas ao medo e à preocupação em relação ao avanço da inteligência artificial e à automação?

_Vou abordar esses pontos:
1.Desemprego em Massa: Uma das preocupações mais proeminentes é o impacto da automação avançada na economia e no emprego. À medida que a IA e os robôs autônomos se tornam mais capazes, há o potencial de que certos empregos se tornem obsoletos. No entanto, muitos argumentam que a automação também cria empregos em novos setores e impulsiona a inovação. A transição pode ser desafiadora, mas não necessariamente resultará em desemprego em massa se forem tomadas medidas adequadas, como a reciclagem de habilidades.

2.Sociedade Mais Ociosa:

automação pode levar a uma redução na necessidade de trabalho manual repetitivo, mas também oferece a oportunidade de uma sociedade com mais tempo livre para atividades criativas, educacionais e de lazer.

A questão é como a sociedade se adapta a essa mudança e como aproveita o tempo livre resultante.

3.Capitalismo e Economia:

medo de ser substituído por máquinas está ligado ao modelo econômico predominante, que é baseado no trabalho humano.

A transição para uma sociedade mais automatizada e eficiente requer repensar a distribuição de riqueza e renda, bem como as formas de sustento das pessoas.

4.Ética e Regulamentação: A ética desempenha um papel importante na automação avançada. Há preocupações sobre o uso responsável da IA, a privacidade, a tomada de decisões éticas por máquinas e muito mais. A regulamentação adequada é necessária para garantir que a automação beneficie a sociedade sem prejudicar os valores e os direitos humanos.

Em resumo, a preocupação sobre a automação e a inteligência artificial é multifacetada e envolve questões econômicas, éticas e sociais.

É importante que governos, empresas e a sociedade como um todo estejam atentos a essas questões e trabalhem juntos para garantir que os benefícios da automação sejam compartilhados de forma ampla e que os desafios sejam abordados de maneira responsável e equitativa.

Sabemos que hoje existem várias empresas realizando projetos e algumas já possuem os chamados humanoides.

Sobre a Sofia que é uma humanoide famosa no mundo televisivo mundial. _O quepode nos falar sobre ela?

_Sofia é um exemplo notável de um robô humanoide avançado que foi desenvolvido pela empresa Hanson Robotics.

Ela foi projetada para se parecer e se comportar de maneira mais próxima possível de um ser humano. Aqui estão algumas informações sobre Sofia:

1. Aparência e Expressões Faciais: Sofia é conhecida por sua aparência realista, com um rosto que se assemelha a uma mulher.

Ela usa uma combinação de tecnologias, incluindo sensores de câmera e expressões faciais animadas para criar um rosto humanoide altamente expressivo.

2.Inteligência Artificial: Sofia é equipada com sistemas de inteligência artificial que lhe permitem interagir com seres humanos, responder a perguntas e manter conversas básicas. Ela usa processamento de linguagem natural para compreender e gerar texto e voz.

3.Aprendizado de Máquina: Ela é capaz de aprender e se adaptar ao longo do tempo, o que significa que suas respostas e interações podem melhorar com a experiência.

4.Participação em Eventos e Mídia: Sofia tem sido uma figura proeminente em eventos de tecnologia e até mesmo concedeu cidadania saudita honorária em 2017. Ela também fez aparições na mídia, participando de entrevistas e conferências.

5.Pesquisa e Desenvolvimento Contínuos: A Hanson Robotics continua a desenvolver e aprimorar a tecnologia por trás de Sofia e de outros robôs humanóides semelhantes. Ela é usada como uma plataforma de pesquisa para explorar a interação humano-robô e avanços na IA.

É importante notar que, embora Sofia seja impressionante em sua aparência e capacidades de comunicação, ela ainda está longe de possuir consciência ou intelecto humano. Ela opera com base em algoritmos e programação de IA, sem emoções ou autoconsciência. Ela é uma demonstração do estado atual da tecnologia de robôs humanóides e uma plataforma para explorar o potencial da interação humano-robô.

_Como será o dia que os robôs deixaram de operar com base em algoritmos e programação de IA?

_ Será uma inteligência.

Segundo a Tesla, a sensibilidade de seus robôs foi aprimorada para que sejam capazes de manipular objetos com energia suficiente para pegá-los, mas não quebrá-los. Além disso, eles conseguem replicar movimentos do corpo humano para colocar esses objetos em um recipiente.

De acordo com a empresa, os motores localizados nas pernas de seus robôs são capazes de reconhecer a superfície por onde caminham. Um deles passou por cima de um ovo regulando sua força para não quebrá-lo. Outro avanço em relação aos modelos apresentados pela Tesla em outubro do ano passado é que os robôs não têm mais seus componentes expostos.

VIKI

VIKI é a vilã do filme e sua vontade de tomar o controle da sociedade das mãos dos seres humanos para manter a ordem é conhecida como lei zero da robótica: um robô pode não prejudicar a humanidade, ou por inação, permitir que a humanidade se prejudique. Diferente da primeira lei da robótica, que é de caráter individual: um robô não pode ferir um humano ou permitir que um humano sofra algum mal.

_E você, teria um robô no seu lar?

FIM DA MATÉRIA E ENTREVISTA

VIKI

Deixe seu comentário sobre a entrevista

Comentários: