Sam Altman, CEO da OpenAI, afirmou que as pessoas deveriam confiar mais nas empresas de IA para conduzir seu desenvolvimento com responsabilidade. A declaração ocorre em meio à crescente preocupação com os riscos associados ao avanço da tecnologia. Durante conferência em San Francisco, Altman reconheceu que há motivos para temer a IA, porquanto a rapidez dos avanços tornou mais fácil imaginar cenários de uso perigoso da tecnologia. As declarações ocorreram após pesquisadores da Anthropic alertarem para riscos extremos da IA, sendo que um deles afirmou que, sem controle, a tecnologia poderia levar à extinção humana até o fim da década. Executivos e especialistas concordaram com parte das preocupações, mas sem detalhar como o cenário ocorreria. O debate aumentou a pressão sobre a forma como a indústria desenvolve e controla seus sistemas. O CEO da Anthropic, Dario Amodei, defendeu a redução do ritmo de desenvolvimento e regulamentação governamental e a posição recebeu apoio de Altman, Demis Hassabis, do Google DeepMind, e Elon Musk. Ao mesmo tempo, dirigentes do setor passaram a defender mecanismos de autorregulação pelas próprias empresas. Altman disse confiar na capacidade da OpenAI e da indústria de desenvolver IA com segurança. Segundo ele, segurança e alinhamento com valores humanos devem permanecer à frente das capacidades dos sistemas. Caso as empresas não consigam garantir isso, afirmou que deverão desacelerar ou interromper o desenvolvimento.
Políticos americanos, porém, demonstraram preocupação com a possibilidade de autorregulação. O senador Bernie Sanders defendeu que as decisões sobre IA envolvam a sociedade, e não apenas grandes empresários e citou Elon Musk, Mark Zuckerberg e Jeff Bezos como alguns dos bilionários que influenciam o setor. O ex-assessor de Donald Trump, Steve Bannon, também questionou a capacidade de autorregulação das empresas. Zuckerberg afirmou que os laboratórios têm incentivos para adotar medidas próprias de segurança e Jensen Huang, CEO da Nvidia, disse que as próprias empresas devem decidir quando lançar novos sistemas. Huang também afirmou que não são necessárias novas leis ou regulamentações para controlar a inovação. Para ele, segurança é principalmente uma questão de engenharia e responsabilidade empresarial. Outros especialistas consideraram exagerada a nova onda de temor em relação aos riscos da IA. Jack Clark, cofundador da Anthropic, afirmou que uma indústria totalmente sem regulamentação envolve riscos imensos. Patrick Hillman disse haver pouca confiança de que empresas de tecnologia atuem sempre em nome do interesse público e defendeu que as empresas demonstrem quais atividades estariam dispostas a interromper diante de riscos. OpenAI e Anthropic informaram que começaram a discutir um possível acordo de segurança para todo o setor. Amodei disse que a Anthropic busca compromissos com padrões mais rigorosos e mecanismos de verificação. A empresa também dialoga com outros laboratórios sobre padrões de segurança para sistemas avançados. O debate reúne, assim, propostas de autorregulação, maior fiscalização governamental e padrões comuns de segurança.
Nenhum comentário:
Postar um comentário