Crédito: Alex Shipps e Kelsey Merrill via Midjourney/Massachusetts Institute of Technology
O software de código aberto – software distribuído gratuitamente, juntamente com seu código-fonte, para que cópias, adições ou modificações possam ser feitas prontamente – está “em toda parte”, para citar o Relatório de Análise de Risco e Segurança de Código Aberto de 2023. Dos programas de computador utilizados pelas principais indústrias, 96% incluem software de código aberto, e 76% desses programas consistem em software de código aberto. Mas a percentagem de pacotes de software “contendo vulnerabilidades de segurança continua preocupantemente elevada”, alertou o relatório.
Uma preocupação é que “o software que você obteve de um desenvolvedor confiável tenha sido de alguma forma comprometido”, diz Kelsey Merrill, um engenheiro de software que recebeu um mestrado no início deste ano do Departamento de Engenharia Elétrica e Ciência da Computação do MIT. “Suponha que em algum lugar da cadeia de suprimentos o software tenha sido alterado por um invasor com intenções maliciosas”.
O risco de uma violação de segurança deste tipo não é de forma alguma abstrato. Em 2020, para dar um exemplo notório, a empresa texana SolarWinds fez um atualização de software ao seu programa amplamente utilizado chamado Orion. Hackers invadiram o sistema, inserindo códigos perniciosos no software antes que a SolarWinds enviasse a versão mais recente do Orion para mais de 18.000 clientes, incluindo Microsoft, Intel e cerca de 100 outras empresas, bem como uma dúzia de agências governamentais dos EUA – incluindo os Departamentos de Estado, Defesa, Tesouro, Comércio e Segurança Interna.
Neste caso, o produto que foi corrompido veio de uma grande empresa comercial, mas os lapsos podem ser ainda mais prováveis de ocorrer no domínio do código aberto, diz Merrill, "onde pessoas de origens variadas - muitas das quais são hobbyistas sem qualquer formação em segurança —pode publicar software que será usado em todo o mundo."
Ela e três colaboradores – sua ex-conselheira Karen Sollins, cientista principal do Laboratório de Ciência da Computação e Inteligência Artificial do MIT; Santiago Torres-Arias, professor assistente de ciência da computação na Purdue University; e Zachary Newman, ex-aluno de pós-graduação do MIT e atual cientista pesquisador do Chainguard Labs – desenvolveram um novo sistema chamado Speranza, que visa garantir aos consumidores de software que o produto que estão adquirindo não foi adulterado e vem diretamente de uma fonte. eles confiam. O papel é Publicados no arXiv servidor de pré-impressão.
“O que fizemos”, explica Sollins, “foi desenvolver, provar que estava correto e demonstrar a viabilidade de uma abordagem que permite a [software] mantenedores permaneçam anônimos." Preservar o anonimato é obviamente importante, visto que quase todos—desenvolvedores de software incluídos - valorize sua confidencialidade. Esta nova abordagem, acrescenta Sollins, "permite simultaneamente [software] os usuários tenham confiança de que os mantenedores são, de fato, mantenedores legítimos e, além disso, que o código que está sendo baixado é, de fato, o código correto desse mantenedor."
Então, como os usuários podem confirmar a autenticidade de um pacote de software para garantir, como diz Merrill, “que os mantenedores são quem dizem ser?” A forma clássica de fazer isto, que foi inventada há mais de 40 anos, é através de uma assinatura digital, que é análoga a uma assinatura manuscrita – embora com uma segurança incorporada muito maior através da utilização de várias técnicas criptográficas.
Para realizar uma assinatura digital, são geradas duas “chaves” ao mesmo tempo – cada uma delas um número, composto por zeros e uns, com 256 dígitos. Uma chave é designada como “privada” e a outra como “pública”, mas elas constituem um par matematicamente vinculado.
Um desenvolvedor de software pode usar seus chave privada, juntamente com o conteúdo do documento ou programa de computador, para gerar uma assinatura digital anexada exclusivamente a esse documento ou programa. Um usuário de software pode então usar a chave pública – bem como a assinatura do desenvolvedor, além do conteúdo do pacote que baixou – para verificar a autenticidade do pacote.
A validação vem na forma de sim ou não, 1 ou zero. “Obter 1 significa que a autenticidade foi garantida”, explica Merrill. "O documento é o mesmo de quando foi assinado e, portanto, inalterado. Um 0 significa que algo está errado e você pode não querer confiar nesse documento."
Aumentando a fé na autenticidade código aberto
Embora esta abordagem de décadas seja testada e comprovada em certo sentido, está longe de ser perfeita. Um problema, observa Merrill, “é que as pessoas são ruins no gerenciamento de chaves criptográficas, que consistem em números muito longos, de uma forma segura e que evita que sejam perdidas”. As pessoas perdem suas senhas o tempo todo, diz Merrill. "E se um desenvolvedor de software perdesse a chave privada e entrasse em contato com um usuário dizendo: 'Ei, tenho uma chave nova', como você saberia quem realmente é?"
Para responder a essas preocupações, a Speranza está a desenvolver o “Sigstore” – um sistema introduzido no ano passado para aumentar a segurança da cadeia de fornecimento de software. Sigstore foi desenvolvido por Newman (que instigou o projeto Speranza) e Torres-Arias, juntamente com John Speed Meyers do Chainguard Labs. Sigstore automatiza e agiliza o processo de assinatura digital. Os usuários não precisam mais gerenciar chaves criptográficas longas, mas recebem chaves efêmeras (uma abordagem chamada "assinatura sem chave") que expiram rapidamente - talvez em questão de minutos - e, portanto, não precisam ser armazenadas.
Aumentando a fé na autenticidade código aberto
Uma desvantagem do Sigstore decorre do fato de ele ter dispensado chaves públicas de longa duração, de modo que os mantenedores de software precisam se identificar – por meio de um protocolo chamado OpenID Connect (OIDC) – de uma forma que possa ser vinculada aos seus endereços de e-mail. Esse recurso, por si só, pode inibir a adoção generalizada do Sigstore e serviu como fator motivador por trás – e razão de ser – do Speranza. “Pegamos a infraestrutura básica da Sigstore e a alteramos para fornecer garantias de privacidade”, explica Merrill.
Com Speranza, a privacidade é alcançada através de uma ideia original que ela e seus colaboradores chamam de “co-compromissos de identidade”. Aqui, em termos simples, está como a ideia funciona: Um desenvolvedor de softwareA identidade de, na forma de um endereço de e-mail, é convertida no chamado “compromisso” que consiste num grande número pseudoaleatório. (Um número pseudoaleatório não atende à definição técnica de "aleatório", mas, na prática, é quase tão bom quanto aleatório.) Enquanto isso, outro grande número pseudoaleatório - o compromisso (ou co-compromisso) que o acompanha - é gerado e está associado a um pacote de software que este desenvolvedor criou ou recebeu permissão para modificar.
A fim de demonstrar a um usuário potencial de um determinado pacote de software quem criou esta versão do pacote e o assinou, o desenvolvedor autorizado publicaria uma prova que estabelecesse uma ligação inequívoca entre o compromisso que representa sua identidade e o compromisso anexado a o produto de software. A prova realizada é de um tipo especial, chamada prova de conhecimento zero, que é uma forma de mostrar, por exemplo, que duas coisas têm um limite comum, sem divulgar detalhes sobre o que essas coisas - como o desenvolvedor do desenvolvedor endereço de e-mail - na verdade são.
“Speranza garante que o software venha da fonte correta sem exigir que os desenvolvedores revelem informações pessoais, como seus endereços de e-mail”, comenta Marina Moore, Ph.D. candidato no Centro de Segurança Cibernética da Universidade de Nova York. "Isso permite que os verificadores vejam que o mesmo desenvolvedor assinou um pacote várias vezes sem revelar quem é o desenvolvedor ou mesmo outros pacotes nos quais trabalham. Isso fornece uma melhoria de usabilidade em relação às chaves de assinatura de longo prazo e um benefício de privacidade em relação a outros OIDC- soluções baseadas em Sigstore."
Marcela Mellara, pesquisadora do grupo de Pesquisa de Segurança e Privacidade do Intel Labs, concorda. “Essa abordagem tem a vantagem de permitir que os consumidores de software verifiquem automaticamente se o pacote obtido de um repositório habilitado para Speranza foi originado de um mantenedor esperado e ganhem confiança de que o software que estão usando é autêntico”.
Mais Informações: Kelsey Merrill et al, Speranza: Assinatura de software utilizável e amigável à privacidade, arXiv (2023). DOI: 10.48550/arxiv.2305.06463
Citação: Aumentando a fé na autenticidade do software de código aberto (2023, 1º de dezembro) recuperado em 22 de maio de 2024 em https://techxplore.com/news/2023-12-boosting-faith-authenticity-source-software.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Este artigo foi revisado de acordo com a Science X's processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo:
verificado
publicação revisada por pares
fonte confiável
revisar
Os pesquisadores demonstraram que, ao combinar tecnologias de imagem de raios X, múltiplas imagens de contraste (como atenuação e campo escuro) contendo informações complementares podem ser obtidas e usadas para detectar materiais ameaçadores escondidos em bolsas e outros cenários complexos. Crédito: Thomas Partridge, University College London
Os pesquisadores combinaram várias tecnologias de imagem de raios X para criar imagens multicontraste que podem ser usadas para detectar materiais ameaçadores, como explosivos, em milhares de cenários complicados. A nova abordagem, que também aproveita procedimentos de aprendizado de máquina prontamente disponíveis para classificação de materiais, pode ser útil para triagem de segurança, bem como para aplicações nas ciências físicas e da vida.
"Este método é particularmente adequado para discriminar objetos com composição elementar muito semelhante", disse o líder da equipe de pesquisa, Thomas Partridge, da University College London, no Reino Unido. “Poderia ser usado em segurança do aeroporto ou qualquer operação de varredura em linha para examinar materiais sinalizados como suspeitos por uma varredura inicial rápida, como um sistema tradicional de raios X."
No diário ÓpticaOs pesquisadores mostrar que a nova abordagem foi altamente eficaz na detecção e identificação precisa de explosivos em quase 4.000 exames de materiais ameaçadores e não ameaçadores escondidos dentro de sacos ou obscurecidos por vários tipos de objetos. Eles alcançaram uma taxa de recall quase perfeita de 99,68%, com apenas um falso negativo, dos casos que apresentavam ameaças.
"Embora seja necessário mais trabalho, esta abordagem também pode ser útil para imagens médicas", disse Partridge. "Enquanto a imagem tradicional de raios X luta para separar o tecido saudável do doente, outros estudos sugeriram que a imagem com contraste de fase pode ser capaz de capturar texturas que poderiam ser usadas para distinguir tecidos saudáveis e benignos."
Desvendando segredos materiais
As máquinas de raios X encontradas em aeroportos ou instalações médicas baseiam-se na atenuação dos raios X, que capta a redução da intensidade dos raios X depois de passarem por um material. A nova técnica cria imagens multicontraste combinando dados convencionais de atenuação de raios X em várias energias de raios X com informações de fase de raios X, que consistem em canais de refração e campo escuro.
A nova técnica produz imagens multicontraste combinando imagens convencionais de atenuação de raios X em várias energias de raios X (duas energias mostradas na parte superior) com informações de fase de raios X, que consistem em canais de refração e campo escuro. Isso oferece um aprimoramento significativamente melhor de texturas e grãos, conforme mostrado no exemplo da imagem composta na parte inferior, permitindo a discriminação de materiais com composições elementares muito semelhantes. Crédito: Thomas Partridge, University College London
“Muitos explosivos e itens comuns do dia a dia são compostos principalmente de carbono, hidrogênio, nitrogênio e oxigênio, uma semelhança que os torna difíceis de separar apenas com a atenuação de raios X”, disse Partridge.
"Os canais adicionais oferecem um aprimoramento significativamente melhor das bordas, bem como das texturas e grãos dos materiais, permitindo a discriminação de objetos com composições elementares muito semelhantes."
Este trabalho baseia-se em esforços anteriores dos pesquisadores para usar imagens aprimoradas de fase de raios X multicontraste com abordagens de aprendizado de máquina para detecção de ameaças com um número menor de explosivos e objetos benignos.
No novo experimento, eles aumentaram significativamente o número de materiais investigados e o número de cenários de imagem para melhor imitar as situações do mundo real. Eles também criaram um sistema de digitalização mais eficaz com uma resolução que poderia ser alterada modificando a velocidade de digitalização e aplicando o contraste de fase de iluminação das bordas.
A iluminação de borda envolve a colocação de máscaras antes e depois da amostra para criar os "feixes" de raios X subpixel necessários para tornar o sistema sensível aos sinais de fase. Uma das principais vantagens desta abordagem de iluminação é que ela funciona com fontes incoerentes de raios X, ampliando sua aplicabilidade.
Como o aumento da complexidade dos cenários de imagem exigia protocolos mais sofisticados, os pesquisadores aplicaram o aprendizado de máquina com uma arquitetura hierárquica que separava os objetos confusos antes de distinguir os tipos de materiais. Isso tornou possível discernir rapidamente diferenças sutis em formas e texturas para distinguir materiais com base nas principais características de identificação.
Os pesquisadores testaram a nova técnica com 19 materiais ameaçadores e 56 materiais não ameaçadores, alguns dos quais estão na foto. Crédito: Thomas Partridge, University College London
Detectando ameaças
Para testar a nova técnica, utilizaram 19 materiais perigosos e 56 materiais não ameaçadores, todos com três espessuras e obscurecidos por uma série de objetos desordenados, como escovas, lenços faciais, meias e outros itens que os passageiros teriam na bagagem de mão.
Ao utilizar todos os canais de contraste adquiridos, os pesquisadores demonstraram não apenas discriminação material, mas também identificação em alguns casos. O uso do aprendizado profundo para analisar os sinais da combinação de contrastes de raios X forneceu resultados muito promissores, com apenas uma falha em 313 casos de ameaça.
Os pesquisadores dizem que traduzir esta abordagem para um ambiente comercial exigiria melhorar a velocidade de digitalização através de uma maior otimização do sistema. A robustez da discriminação material também precisa de ser testada num conjunto maior de dados.
Uma área de estudo ativo para a equipe é combinar o método com a tomografia computadorizada 3D, que está sendo explorada para fins de segurança devido à sua capacidade de fornecer imagens tridimensionais detalhadas de objetos.
Mais Informações: Tom Partridge et al, Identificação de raios X multicontraste de materiais não homogêneos e sua discriminação por meio de abordagens de aprendizagem profunda, Óptica (2024). DOI: 10.1364/OPTICA.507049
Citação: Pesquisadores detectam ameaças ocultas com imagens avançadas de raios X (2024, 23 de maio) recuperadas em 23 de maio de 2024 em https://techxplore.com/news/2024-05-hidden-threats-advanced-ray-imaging.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Uma equipe combinada de especialistas em segurança da Universidade Nacional de Seul e da Samsung Research encontrou uma vulnerabilidade nas extensões de marcação de memória (MTEs) empregadas pelos processadores ARM como meio de proteção contra vazamentos de memória. O grupo publicou um papel descrevendo suas descobertas sobre o arXiv servidor de pré-impressão.
Em 2018, Arm, Ltd., introduziu um novo recurso de hardware para máquinas avançadas de computador com conjunto de instruções reduzidas (RISC) (ARMs) que poderiam ser usadas por fabricantes de software para detectar violações de memória. Os MTEs marcam blocos de memória física com metadados.
Quando o software faz uma chamada de memória dentro de uma região marcada, geralmente usando um ponteiro, o novo hardware verifica se o ponteiro contém uma chave correspondente para o bloco de memória referenciado. Caso contrário, um erro será retornado, evitando que os dados sejam gravados onde isso não deveria acontecer — como durante buffer overflows.
A introdução do MTE foi considerada uma adição atraente à arquitetura ARM porque ajuda os programadores a prevenir a corrupção da memória e possíveis vulnerabilidades, como o acesso de hackers a dados em áreas não seguras. Infelizmente, parece que a introdução dos MTE também levou à introdução de um novo vulnerabilidade.
Neste novo trabalho, a equipe de pesquisa desenvolveu duas técnicas que eles chamam de TIKTAG-v1 e -v2, que afirmam ser capazes de extrair tags MTE para áreas de endereços de memória aleatórias. Eles explicam que ambas as técnicas envolvem o uso de software para observar como as operações especulativas influenciam a forma como os dados são pré-buscados.
Os sistemas de software usam pré-busca para acelerar as operações, evitando atrasos associados à espera pela recuperação de dados. As execuções especulativas funcionam da mesma maneira, executando antecipadamente código que pode ser útil no futuro, às vezes usando dados pré-buscados e gravando em memória. Se os resultados de tais execuções não forem necessários, eles serão simplesmente descartados. As vulnerabilidades que a equipe encontrou envolviam o aproveitamento de informações pré-buscadas e/ou descartadas.
A equipe de pesquisa descobriu que conseguiu extrair tags MTE em 95% de suas tentativas, o que, observam, poderia levar à exploração. Eles também propuseram diversas soluções possíveis para resolver o problema, que enviaram à Arm, Ltd.
Mais Informações: Juhee Kim et al, TikTag: Quebrando a extensão de marcação de memória do ARM com execução especulativa, arXiv (2024). DOI: 10.48550/arxiv.2406.08719
Citação: Especialistas em segurança encontram vulnerabilidade nas extensões de marcação de memória do ARM (2024, 19 de junho) recuperadas em 19 de junho de 2024 em https://techxplore.com/news/2024-06-experts-vulnerability-arm-memory-tagging.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
A geração confiável de números aleatórios tornou-se um componente central da tecnologia de informação e comunicação. Na verdade, geradores de números aleatórios, algoritmos ou dispositivos que podem produzir sequências aleatórias de números estão agora ajudando a proteger as comunicações entre diferentes dispositivos, a produzir amostras estatísticas e para várias outras aplicações.
Pesquisadores da Toshiba Europe Ltd. desenvolveram recentemente um novo gerador quântico de números aleatórios (QRNG) baseado em um circuito integrado fotônico que pode ser integrado diretamente em dispositivos eletrônicos. Este QRNG, introduzido em um artigo publicado em Eletrônica da Naturezapode gerar de forma segura e robusta Números aleatórios a uma velocidade notável de 2 Gbit s-1.
“A aleatoriedade é agora uma mercadoria valiosa, pois impulsiona quase todos os protocolos digitais que permitem a comunicação privada”, disse Raymond Smith, cientista pesquisador sênior e coautor do artigo, ao Tech Xplore.
"O uso comum de geradores de números pseudo-aleatórios (PRNGs) representa uma ameaça potencial à segurança porque os PRNGs são algoritmos meramente determinísticos e não fornecem aleatoriedade verdadeira. Isto é particularmente crítico para sistemas de comunicação seguros."
Estudos recentes destacaram o potencial de geração de números verdadeiramente imprevisíveis usando QRNGs, geradores de números aleatórios que potencializam processos naturais de origem quântica. Smith e seus colegas da Toshiba têm experimentado essas técnicas.
"Esforços de pesquisa anteriores e ideias que inspiraram este trabalho incluem a busca pela simplificação do hardware dos QRNGs", disse Smith.
"Normalmente, os QRNGs empregam componentes fotônicos, como lasers e detectores, que são volumosos e requerem manuseio especial quando montados com componentes eletrônicos. Essa complexidade torna os QRNGs mais difíceis de implantar em grande escala e mais caros. No entanto, uma tecnologia chamada 'fotônica integrada' está ajudando a superar esses desafios."
Os circuitos fotônicos integrados permitem aos pesquisadores condensar todos os componentes ópticos centrais em um único chip com apenas alguns milímetros de tamanho. Smith e seus colegas tentaram usar tecnologias fotônicas integradas para criar um circuito integrado fotônico (PIC) que pudesse simplificar a complexidade de seu método QRNG, facilitando sua futura implantação em larga escala.
"Nos últimos anos, a Toshiba fez vários avanços na tecnologia PIC, incluindo o desenvolvimento o primeiro sistema de distribuição quântica de chaves (QKD) baseado em chip do mundo", disse Smith.
"Este sistema QKD incorporou um QRNG PIC em um pacote borboleta de 14 pinos cuja saída óptica precisava ser acoplada por fibra a um fotodiodo de alta velocidade na placa eletrônica QRNG."
Crédito: Marangon et al.
O objetivo principal do estudo recente da equipe da Toshiba foi desenvolver um QRNG completo baseado em um PIC com apenas entradas e saídas eletrônicas. Além disso, os investigadores planearam implantar o QRNG em dispositivos reais para validar a sua eficácia.
“Normalmente, os PICs são testados sob condições controladas, utilizando equipamento de laboratório especializado”, explicou Smith. “Essa abordagem torna difícil avaliar o desempenho desta tecnologia, uma vez implantada em sistemas reais, sob condições operacionais reais”.
Smith e seus colegas projetaram uma placa de circuito impresso compacta que incorpora o PIC que desenvolveram, chamado núcleo de entropia óptica (OEC). OEC possui embalagem padrão que lembra outros chips eletrônicos e mede 6 x 6 mm2. A placa de circuito na qual está embutida inclui módulos eletrônicos que acionam o PIC, bem como módulos que leem os sinais aleatórios gerados.
“Então, como é produzido o sinal aleatório?” Smith disse. “O PIC é composto por dois lasers que emitem pulsos ópticos com fases aleatórias devido ao ruído quântico. Esses pulsos interferem entre si, gerando um pulso com intensidade óptica aleatória, que é então convertido em um sinal de corrente aleatório por um detector rápido. é processado pela placa e convertido em bits aleatórios que podem ser distribuídos a uma taxa muito rápida (Gb/s)."
A principal vantagem do novo QRNG integrado baseado em fotônica é que seu PIC subjacente é econômico e pode ser montado em placas eletrônicas usando métodos convencionais de montagem em série. Isto poderia facilitar a sua futura implantação em grande escala em vários dispositivos eletrônicostornando-o uma alternativa competitiva e de melhor desempenho aos PRNGs.
“Construímos oito placas para estudar a variabilidade de desempenho em diferentes dispositivos”, disse Smith. “Além disso, para garantir a segurança de sua produção final, o QRNG realiza testes de integridade na produção do OEC para verificar se ele opera continuamente conforme esperado, ajustando automaticamente os parâmetros de condução do OEC se necessário, bem como calculando a taxa de geração segura que pode alcançar em tempo real. Se essa taxa cair, o QRNG pode ajustar automaticamente o pós-processamento para garantir que o resultado final permaneça imprevisível."
Embora os PICs sejam geralmente testados isoladamente usando equipamentos especializados, o PIC desenvolvido na Toshiba pode ser perfeitamente integrado à eletrônica e testado em ambientes reais. Os testes iniciais foram altamente promissores, demonstrando que o OEC pode operar de forma tão confiável quanto outros componentes eletrônicos padrão.
“Incorporamos uma placa QRNG em um sistema QKD e a operamos continuamente por 38 dias, produzindo um sinal aleatório estável apesar das flutuações significativas de temperatura”, disse Smith. “Este teste demonstra a prontidão do nosso QRNG para implantação em sistemas reais, sob condições operacionais reais. Outro ponto notável é que obtivemos desempenhos muito semelhantes de todas as oito placas, o que é fundamental para estabelecer uma linha de base de desempenho.”
O recente estudo desta equipe de pesquisadores representa um avanço importante no desenvolvimento de QRNGs integrados baseados em fotônica e pode contribuir para sua futura implantação em massa. Até agora, Smith e seus colegas conseguiram atingir uma taxa de geração aleatória de bits de até 8 Gbit/s, mas em breve esperam aumentar ainda mais essa taxa.
“Isso tornará esses QRNGs atraentes para simulações e computação de alto desempenho”, acrescentou Smith. “Também planejamos continuar a aumentar a robustez dos nossos QRNGs para garantir que eles possam operar de forma confiável em casos de uso do mundo real”.
Mais Informações: Davide G. Marangon et al, Um gerador quântico de números aleatórios rápido e robusto com um núcleo de aleatoriedade fotônica integrado e independente, Eletrônica da Natureza (2024). DOI: 10.1038/s41928-024-01140-0.
Citação: Novo gerador quântico de números aleatórios atinge velocidade de 2 Gbit/s (2024, 11 de junho) recuperado em 11 de junho de 2024 em https://techxplore.com/news/2024-06-quantum-random-generator-gbits.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Um análise publicada no diário Ciência descobriu que, contrariamente a uma suposição amplamente difundida, o urânio de alto teor e baixo enriquecimento (HALEU), agora produzido com subsídios federais para abastecer a próxima geração de pequenos reatores nucleares, pode ser usado diretamente para fabricar armas nucleares e, portanto, apresenta maior terrorismo e ameaças de proliferação nuclear do que as reconhecidas publicamente pelo governo federal e pela indústria.
"Se o HALEU se tornasse um reator padrão combustível sem restrições apropriadas determinadas por uma revisão de segurança interagências, outros países seriam capazes de obter, produzir e processar HALEU utilizáveis em armas com impunidade, eliminando a distinção nítida entre programas nucleares pacíficos e não pacíficos", de acordo com a análise conduzida por cinco dos principais especialistas acadêmicos e independentes em proliferação do mundo.
"Esses países estariam a apenas alguns dias de uma bomba, dando ao comunidade internacional nenhum aviso sobre a próxima proliferação nuclear e praticamente nenhuma oportunidade para evitá-la."
O documento apela a medidas adicionais para mitigar este risco à medida que os Estados Unidos e outros países prosseguem a implantação internacional de reactores alimentados a HALEU. "Dados os riscos, recomendamos que o Congresso dos EUA oriente a Administração Nacional de Segurança Nuclear do DOE a encomendar uma nova revisão da proliferação HALEU e riscos de segurança por especialistas de laboratórios de armas dos EUA."
Os combustíveis para os reactores comerciais actuais não dependem do HALEU, que é enriquecido entre 10% e 20% de urânio-235, e em vez disso utiliza normalmente urânio enriquecido abaixo de 5%. A esses níveis, o combustível não consegue sustentar uma reacção em cadeia explosiva, o que tem impedido nações ou terroristas de reaproveitarem o combustível comercial de reactores para armas.
No entanto, por razões técnicas, muitos dos Reator nuclear os projetos que os engenheiros desejam construir hoje usariam HALEU. Como o HALEU está abaixo do limite inferior de enriquecimento de 20% que define o urânio altamente enriquecido (HEU), que é entendido como sendo diretamente utilizável em armas nucleareso desenvolvimento destes reactores não levantou preocupações significativas em matéria de proliferação.
Mas ao rever a informação na literatura aberta para analisar as quantidades e os níveis de enriquecimento de HALEU que os novos reactores utilizariam, os autores do Ciência O artigo concluiu que HALEU acima de cerca de 12% de urânio-235 poderia ser usado para fabricar armas práticas com rendimentos comparáveis às bombas que destruíram Hiroshima e Nagasaki. Muitos reactores propostos poderiam conter HALEU suficiente para fabricar uma arma nuclear e, portanto, representar sérios riscos de segurança, de acordo com o artigo.
Estes riscos estão a aumentar porque, embora a quantidade de HALEU em utilização comercial seja hoje relativamente pequena, o governo federal está a encorajar activamente a utilização de HALEU e a financiar a sua produção.
O Departamento de Energia dos EUA está a cobrir metade do custo de implantação de duas centrais nucleares de demonstração que planeiam utilizar quantidades de várias toneladas de combustível HALEU, incluindo o reactor rápido "Natrium" que a TerraPower, uma empresa fundada por Bill Gates, planeia construir em Kemmerer, Wyoming.
No início deste ano, o governo federal destinou 2,7 mil milhões de dólares para subsidiar a produção de urânio enriquecido, incluindo HALEU, para alimentar estes e outros projectos de reactores que estão a ser considerados para uma série de aplicações, incluindo a alimentação de centros de dados e operações de petróleo e gás. Outros países estão seguindo o exemplo.
Muitos reactores alimentados por HALEU utilizariam urânio enriquecido até um pouco abaixo do limite de 20%, o que representa o risco mais elevado. Os pesquisadores sugerem que "seria alcançado um equilíbrio razoável entre riscos e benefícios se o enriquecimento de combustíveis para reatores de energia fosse restrito a menos de 10 a 12% de urânio-235", o que permitiria que muitos projetos de reatores avançassem com consequências econômicas apenas modestas. .
No entanto, se continuarem a ser utilizados enriquecimentos mais elevados, os autores recomendam que os padrões de segurança para proteger o HALEU contra roubo sejam reforçados para os níveis que se aplicam aos materiais utilizáveis em armas HEU e plutónio.
Citação: Análise: O potencial de armas do combustível de urânio de alto teor e baixo enriquecimento representa uma ameaça maior do que o reconhecido publicamente (2024, 6 de junho) recuperado em 8 de junho de 2024 em https://techxplore.com/news/2024-06-análise-weapons-potential -alto-ensaio.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Uma equipe de pesquisa liderada por Edward Knightly, da Rice University, descobriu uma vulnerabilidade de segurança de espionagem em links de backhaul sem fio de alta frequência e alta velocidade, amplamente empregados em aplicações críticas, como sinais de telefones celulares sem fio 5G e negociações financeiras de baixa latência em Wall Street.
Ao contrário da crença comum de que esses links são inerentemente seguros devido ao seu posicionamento elevado e "feixes de lápis" de ondas milimétricas e subterahertz altamente diretivos, a equipe expôs um novo método de interceptação usando um drone equipado com metassuperfície chamado MetaFly. Deles descobertas foram publicadas como parte do Simpósio IEEE 2024 sobre Segurança e Privacidade (SP).
"As implicações da nossa pesquisa são de longo alcance, afetando potencialmente um amplo espectro de empresas, agências governamentais e indivíduos que dependem desses links", disse Knightly, professor de engenharia elétrica e de computação da Sheafor-Lindsay e professor de ciência da computação. "É importante ressaltar que compreender essa vulnerabilidade é o primeiro passo para o desenvolvimento de contramedidas robustas."
As ligações de backhaul sem fios, cruciais para a espinha dorsal das redes de comunicação modernas que ligam os utilizadores finais às redes principais, foram consideradas imunes à escuta devido às suas barreiras físicas e tecnológicas subjacentes.
Cavaleiro e Ph.D. em engenharia elétrica e de computação. O assistente de pesquisa Zhambyl Shaikhanov, em colaboração com pesquisadores da Brown University e da Northeastern University, demonstraram como um adversário forte pode contornar essas defesas com uma facilidade alarmante. Ao implantar o MetaFly, eles interceptaram alta frequência sinais entre telhados em Boston área metropolitanaquase sem deixar vestígios.
"Nossa descoberta destaca uma supervisão crítica na percepção segurança de nossos links de backhaul sem fio", disse Shaikhanov.
À medida que a tecnologia sem fio avança nos domínios do 5G e além, garantir a segurança dessas redes é fundamental. O trabalho da equipe Rice é um passo significativo para a compreensão de ameaças sofisticadas, como o MetaFly, e também para a proteção da infraestrutura de comunicação.
Citação: Discovery destaca 'supervisão crítica' na segurança percebida de redes sem fio (2024, 7 de junho) recuperado em 7 de junho de 2024 em https://techxplore.com/news/2024-06-discovery-highlights-critical-oversight-wireless.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Citação: Novo ataque de ransomware baseado em uma rede adversária generativa evolutiva pode escapar das medidas de segurança (2024, 6 de junho) recuperado em 6 de junho de 2024 em https://techxplore.com/news/2024-06-ransomware-based-evolutional-generative-adversarial. HTML
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Este artigo foi revisado de acordo com a Science X's processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo:
verificado
fonte confiável
revisar
O contraste entre as etapas experimentadas pelos usuários e os processos de manipulação de dados envolvidos em vários estágios do processo de configuração do dispositivo. O usuário inicia o processo de configuração do seu dispositivo adquirindo um novo dispositivo. As etapas 1 a 18 explicam as etapas necessárias para uma configuração completa do dispositivo de um usuário, por exemplo, um MacBook (macOS 10.15+). Bolhas amarelas indicadas pelas letras A - H são resumos da declaração oficial de política de privacidade da Apple [3]. Os balões A - H destacam exemplos de coleta de informações pessoais que ocorrem em vários estágios do processo de configuração. Além de outros procedimentos de tratamento de dados, como a localização das informações armazenadas (por exemplo, em F), as impressões digitais dos usuários são armazenadas localmente no dispositivo. Ressaltamos que pode haver pequenas variações entre a ordem de apresentação dessas configurações no iOS e no macOS. Além disso, a Siri (etapa 15) não é solicitada durante a configuração do dispositivo no iPhone (iOS 14.0). A ordem do diagrama é baseada na ordem de apresentação das configurações no macOS. Crédito: Privacidade de aplicativos padrão no ecossistema móvel da Apple (2024)
"Privacidade. Isso é iPhone", proclama o slogan. Uma nova pesquisa da Universidade Aalto discorda.
Estudo após estudo mostrou como aplicativos voluntários de terceiros prejudicam a privacidade das pessoas. Agora, pela primeira vez, pesquisadores da Universidade Aalto investigaram as configurações de privacidade dos aplicativos padrão da Apple, aqueles que são praticamente inevitáveis em um novo dispositivo, seja um computador, tablet ou telefone celular.
Os pesquisadores apresentarão suas descobertas em meados de maio na conferência CHI, e o artigo de pesquisa revisado por pares já está disponível on-line.
"Nós nos concentramos em aplicativos que são parte integrante da plataforma e do ecossistema. Esses aplicativos estão colados à plataforma e é praticamente impossível livrar-se deles", diz o professor associado Janne Lindqvist, chefe do departamento de ciência da computação da Aalto.
Os pesquisadores estudaram oito aplicativos: Safari, Siri, Family Sharing, iMessage, FaceTime, Location Services, Find My e Touch ID. Eles coletaram todas as informações relacionadas à privacidade disponíveis publicamente nesses aplicativos, desde documentação técnica até políticas de privacidade e manuais do usuário.
A fragilidade das proteções à privacidade surpreendeu até os pesquisadores.
“Devido à forma como interface de usuário foi projetado, os usuários não sabem o que está acontecendo. Por exemplo, o usuário tem a opção de ativar ou não a Siri, assistente virtual da Apple. Mas ativar refere-se apenas ao uso do controle de voz do Siri. A Siri coleta dados em segundo plano de outros aplicativos que você usa, independentemente da sua escolha, a menos que você entenda como acessar as configurações e alterá-las especificamente”, diz Lindqvist.
Os participantes não conseguiram interromper o compartilhamento de dados em nenhum dos aplicativos
Na prática, proteger a privacidade em um dispositivo Apple requer cliques persistentes e especializados em cada aplicativo individualmente. A ajuda da Apple é insuficiente.
"As instruções on-line para restringir o acesso a dados são muito complexas e confusas, e as etapas necessárias estão espalhadas em lugares diferentes. Não há uma orientação clara sobre se devemos acessar as configurações do aplicativo, as configurações centrais - ou mesmo ambas", diz Amel Bourdoucen, pesquisador de doutorado na Aalto.
Além disso, as instruções não listavam todas as etapas necessárias nem explicavam como os dados coletados são processados.
Os pesquisadores também demonstraram esses problemas experimentalmente. Eles entrevistaram usuários e pediram que tentassem alterar as configurações.
"Descobriu-se que os participantes não conseguiram impedir que nenhum dos aplicativos compartilhasse seus dados com outros aplicativos ou com o provedor de serviço", diz Bourdoucen.
Encontrar e ajustar as configurações de privacidade também demorava muito. “Ao fazer ajustes, os usuários não recebem feedback sobre se tiveram sucesso. Eles então se perdem no caminho, retrocedem no processo e rolam aleatoriamente, sem saber se fizeram o suficiente”, diz Bourdoucen.
No final, explica Bourdoucen, os participantes conseguiram dar um ou dois passos na direção certa, mas nenhum conseguiu seguir todo o procedimento para proteger a sua privacidade.
Ficando sem opções
Se é difícil impedir o compartilhamento de dados, o que a Apple faz com todos esses dados?
Não é possível ter certeza com base documentos públicosmas Lindqvist diz que é possível concluir que os dados serão usados para treinar o sistema de inteligência artificial por trás do Siri e para fornecer experiências personalizadas ao usuário, entre outras coisas.
Muitos usuários estão acostumados com a interação perfeita entre vários dispositivos, o que torna difícil voltar para uma época de maior limitação. compartilhamento de dados. No entanto, a Apple poderia informar os usuários com muito mais clareza do que faz hoje, diz Lindqvist. O estudo lista uma série de sugestões detalhadas para esclarecer as configurações de privacidade e melhorar as diretrizes.
Para aplicativos individuais, Lindqvist diz que o problema pode ser resolvido até certo ponto optando por um serviço de terceiros. Por exemplo, alguns participantes do estudo mudaram do Safari para o Firefox.
Lindqvist não pode comentar diretamente sobre como o Android do Google funciona em aspectos semelhantes, já que ninguém ainda fez um mapeamento semelhante de seus aplicativos. Mas pesquisas anteriores sobre aplicativos de terceiros não sugerem que o Google esteja mais privacidade-consciente do que a Apple.
Então, o que pode ser aprendido com tudo isso: os usuários estão enfrentando uma tarefa quase impossível?
“Infelizmente, essa é uma lição”, diz Lindqvist.
Citação: é mais difícil do que o esperado, conclui estudo (2024, 3 de abril) recuperado em 1º de maio de 2024 em https://techxplore.com/news/2024-04-apple-harder.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
IA descobre que nem toda impressão digital é única
O mapa de saliência destaca áreas que contribuem para a semelhança entre as duas impressões digitais da mesma pessoa. Crédito: Gabe Guo,/Columbia Engineering
De “Lei e Ordem” a “CSI”, sem falar na vida real, os investigadores usaram as impressões digitais como padrão ouro para vincular criminosos a um crime. Mas se um perpetrador deixar impressões digitais de dedos diferentes em duas cenas de crime diferentes, essas cenas serão muito difíceis de vincular e o rastro poderá esfriar.
É um fato bem aceito na comunidade forense que as impressões digitais de diferentes dedos da mesma pessoa – “impressões digitais intrapessoais” – são únicas e, portanto, incomparáveis.
Uma equipe liderada por Gabe Guo, aluno do último ano de graduação em Engenharia da Columbia, desafiou essa presunção amplamente difundida. Guo, que não tinha conhecimento prévio de ciência forense, encontrou um banco de dados público do governo dos EUA com cerca de 60 mil impressões digitais e as inseriu aos pares em um sistema baseado em inteligência artificial conhecido como rede contrastiva profunda. Às vezes os pares pertenciam à mesma pessoa (mas com dedos diferentes) e às vezes pertenciam a pessoas diferentes.
Com o tempo, o sistema de IA, que a equipe projetou modificando uma estrutura de última geração, melhorou em saber quando impressões digitais aparentemente únicas pertenciam à mesma pessoa e quando não. A precisão para um único par atingiu 77%. Quando múltiplos pares foram apresentados, a precisão disparou significativamente maior, aumentando potencialmente a eficiência forense atual em mais de dez vezes.
O projeto, uma colaboração entre o laboratório Creative Machines de Hod Lipson na Columbia Engineering e o laboratório Embedded Sensors and Computing de Wenyao Xu na University at Buffalo, SUNY, foi publicado hoje em Avanços da Ciência.Crédito: Escola de Engenharia e Ciências Aplicadas da Universidade de ColumbiaAs descobertas do estudo desafiam – e surpreendem – a comunidade forense
Depois que a equipe verificou seus resultados, eles rapidamente enviaram as descobertas para uma revista forense bem estabelecida, apenas para receber uma rejeição alguns meses depois. O revisor e editor anônimo concluiu que “é sabido que cada impressão digital é única” e, portanto, não seria possível detectar semelhanças mesmo que as impressões digitais viessem da mesma pessoa.
A equipe não desistiu. Eles dobraram a liderança, alimentaram seu sistema de IA com ainda mais dados e o sistema continuou melhorando. Ciente do ceticismo da comunidade forense, a equipe optou por submeter seu manuscrito a um público mais geral. O artigo foi rejeitado novamente, mas Lipson, que é Professor de Inovação James e Sally Scapa no Departamento de Engenharia Mecânica e codiretor do Makerspace Facility, recorreu.
“Normalmente não discuto decisões editoriais, mas esta descoberta era importante demais para ser ignorada”, disse ele. "Se esta informação fizer pender a balança, então imagino que os casos arquivados poderiam ser revividos e até mesmo que pessoas inocentes poderiam ser absolvidas."
Embora a precisão do sistema seja insuficiente para decidir oficialmente um caso, ele pode ajudar a priorizar pistas em situações ambíguas. Depois de muitas idas e vindas, o artigo foi finalmente aceito para publicação pela Avanços da Ciência.
Um novo tipo de marcador forense para capturar impressões digitais com precisão
Um dos pontos críticos foi a seguinte questão: que informação alternativa a IA estava realmente a utilizar e que escapou a décadas de análise forense? Depois de visualizar cuidadosamente o sistema de IA processo de decisãoa equipe concluiu que a IA estava usando um novo marcador forense.
“A IA não estava usando ‘minúcias’, que são as ramificações e pontos finais nas cristas das impressões digitais – os padrões usados na comparação tradicional de impressões digitais”, disse Guo, que iniciou o estudo como aluno do primeiro ano da Columbia Engineering em 2021. “Em vez disso, , estava usando outra coisa, relacionada aos ângulos e curvaturas dos redemoinhos e voltas no centro da impressão digital."
Aniv Ray sênior da Columbia Engineering e Ph.D. o estudante Judah Goldfeder, que ajudou a analisar os dados, observou que os resultados são apenas o começo. “Imagine quão bem isso funcionará quando for treinado em milhões em vez de milhares de impressões digitais”, disse Ray.
A equipe está ciente de possíveis distorções nos dados. Os autores apresentam evidências que indicam que a IA tem um desempenho semelhante em todos os sexos e raças onde as amostras estavam disponíveis. No entanto, observam que é necessária uma validação mais cuidadosa, utilizando conjuntos de dados com cobertura mais ampla, para que esta técnica seja utilizada na prática.
Potencial transformador da IA num campo bem estabelecido
que podem vir da IA, observa Lipson: “Muitas pessoas pensam que a IA não pode realmente fazer novas descobertas – que apenas regurgita conhecimento”, disse ele. “Mas esta pesquisa é um exemplo de como mesmo uma IA bastante simples, dado um conjunto de dados bastante simples que a comunidade de pesquisa tem disponível há anos, pode fornecer insights que escaparam aos especialistas durante décadas”.
Ele acrescentou: "Ainda mais emocionante é o fato de que um estudante de graduação, sem qualquer experiência em ciência forense, pode usar a IA para desafiar com sucesso uma crença amplamente difundida em um campo inteiro. Estamos prestes a experimentar uma explosão de tecnologias lideradas pela IA. descoberta científica por não especialistas, e a comunidade de especialistas, incluindo a academia, precisa se preparar."
Citação: AI descobre que nem toda impressão digital é única (2024, 10 de janeiro) recuperada em 18 de maio de 2024 em https://techxplore.com/news/2024-01-ai-fingerprint-unique.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Este artigo foi revisado de acordo com a Science X's processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo:
verificado
fonte confiável
revisar
O que uma câmera normal vê em comparação com o que a câmera que preserva a privacidade dos pesquisadores vê. Crédito: Universidade de Sydney e Universidade de Tecnologia de Queensland
Desde aspiradores robóticos e frigoríficos inteligentes até intercomunicadores para bebés e drones de entrega, os dispositivos inteligentes que são cada vez mais bem-vindos nas nossas casas e locais de trabalho utilizam a visão para captar o que nos rodeia, captando vídeos e imagens das nossas vidas no processo.
Em uma tentativa de restaurar a privacidade, pesquisadores do Centro Australiano de Robótica da Universidade de Sydney e do Centro de Robótica (QCR) da Universidade de Tecnologia de Queensland criaram uma nova abordagem para projetar câmeras que processam e embaralham informação visual antes de ser digitalizado para que fique obscurecido ao ponto do anonimato.
Conhecidos como sistemas com visão, dispositivos como aspiradores de pó inteligentes fazem parte da “internet das coisas” – sistemas inteligentes que se conectam à internet. Eles podem correr o risco de serem hackeados por malfeitores ou perdidos por erro humano, e suas imagens e vídeos correm o risco de serem roubados por terceiros, às vezes com intenções maliciosas.
Agindo como uma “impressão digital”, as imagens distorcidas ainda podem ser usadas por robôs para completar as suas tarefas, mas não fornecem uma representação visual abrangente que comprometa a privacidade.
“Os dispositivos inteligentes estão a mudar a forma como trabalhamos e vivemos as nossas vidas, mas não devem comprometer a nossa privacidade e tornar-se ferramentas de vigilância”, disse Adam Taras, que concluiu a investigação como parte da sua tese de honra.
O que uma câmera normal vê em comparação com o que a câmera que preserva a privacidade dos pesquisadores vê. Crédito: Universidade de Sydney e Universidade de Tecnologia de Queensland
"Quando pensamos em 'visão', pensamos nela como uma fotografia, embora muitos destes dispositivos não exijam o mesmo tipo de acesso visual a uma cena que os humanos. Têm um âmbito muito restrito em termos do que necessitam medir para completar uma tarefa, usando outros sinais visuais, como reconhecimento de cores e padrões", disse ele.
Os pesquisadores conseguiram segmentar o processamento que normalmente acontece dentro de um computador dentro da óptica e da eletrônica analógica da câmera, que existe fora do alcance dos invasores.
"Este é o principal ponto de distinção de trabalhos anteriores que ofuscaram as imagens dentro do computador da câmera - deixando as imagens abertas ao ataque", disse o Dr. Don Dansereau, supervisor de Taras no Centro Australiano de Robótica. "Vamos um nível além dos próprios componentes eletrônicos, permitindo um maior nível de proteção."
Os pesquisadores tentaram hackear sua abordagem, mas não conseguiram reconstruir as imagens em nenhum formato reconhecível. Eles abriram esta tarefa para o comunidade de pesquisa em geral, desafiando outros a hackear seu método.
“Se essas imagens fossem acessadas por terceiros, eles não conseguiriam fazer grande parte delas e a privacidade seria preservada”, disse Taras.
Dansereau disse que a privacidade está se tornando cada vez mais uma preocupação à medida que mais dispositivos vêm com câmeras integradas e com o possível aumento de novas tecnologias em um futuro próximo, como drones de encomendas, que viajam para áreas residenciais para fazer entregas.
“Você não gostaria que imagens tiradas dentro de sua casa por seu aspirador robô vazassem na dark web, nem que um drone de entrega mapeasse seu quintal. nesta informação", disse o Dr. Dansereau.
A abordagem também poderia ser usada para fabricar dispositivos que funcionem em locais onde a privacidade e a segurança são uma preocupação, como armazéns, hospitais, fábricas, escolas e aeroportos.
Os pesquisadores esperam construir em seguida protótipos de câmeras físicas para demonstrar a abordagem na prática.
"A atual tecnologia de visão robótica tende a ignorar as preocupações legítimas de privacidade dos usuários finais. Esta é uma estratégia míope que retarda ou até impede a adoção da robótica em muitas aplicações de importância social e econômica. Nosso novo design de sensor leva muito em conta a privacidade. sério, e espero vê-lo adotado pela indústria e usado em muitas aplicações", disse o professor Niko Suenderhauf, vice-diretor do QCR, que aconselhou sobre o projeto.
O professor Peter Corke, ilustre professor emérito e professor adjunto do QCR, que também aconselhou o projeto, disse: "As câmeras são o robô equivalente aos olhos de uma pessoa, inestimáveis para compreender o mundo, saber o que é o que e onde está. O que fazemos Não queremos que as imagens dessas câmeras saiam do corpo do robô, para revelar inadvertidamente detalhes privados ou íntimos sobre pessoas ou coisas no ambiente do robô."
A pesquisa, "Inerentemente privacidade-preservando a visão para sistemas autônomos confiáveis: necessidades e soluções", foi Publicados pelo Revista de Tecnologia Responsável.
Mais Informações: Adam K. Taras et al, Visão inerentemente preservadora da privacidade para sistemas autônomos confiáveis: necessidades e soluções, Revista de Tecnologia Responsável (2024). DOI: 10.1016/j.jrt.2024.100079
Citação: Novas câmeras robóticas que preservam a privacidade obscurecem imagens além do reconhecimento humano (2024, 4 de abril) recuperadas em 29 de abril de 2024 em https://techxplore.com/news/2024-04-privacy-robotic-cameras-obscure-images.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Ataques iniciais: um usuário pensa que está interagindo diretamente com um aplicativo de VR iniciado na tela inicial de VR, quando na verdade está executando um aplicativo de VR simulado dentro da camada inicial do invasor. Crédito: arXiv (2024). DOI: 10.48550/arxiv.2403.05721
Uma equipe de cientistas da computação da Universidade de Chicago descobriu uma vulnerabilidade potencial em sistemas de realidade virtual – que poderia permitir que um hacker inserisse o que a equipe descreve como uma “camada inicial” entre a tela inicial de VR de um usuário e seu usuário/servidor de VR. . A equipe postou um papel descrevendo seu trabalho e suas descobertas sobre o arXiv servidor de pré-impressão.
Os sistemas de realidade virtual permitem que os usuários interajam em um mundo virtual – onde praticamente tudo que se possa imaginar é possível. Neste novo esforço, a equipe de pesquisa imaginou um cenário em que hackers poderiam adicionar um aplicativo ao fone de ouvido VR de um usuário que enganasse os usuários para que se comportassem de maneiras que pudessem revelar informação sensível para os hackers.
A ideia por trás do aplicativo é adicionar uma camada entre o usuário e o mundo virtual que o usuário normalmente vê ao usar seu dispositivo VR. Eles chamam isso de camada inicial, em homenagem ao filme em que um personagem interpretado por Leonardo DiCaprio tem uma camada alterada de realidade baixada em seu cérebro.
Nesse caso, tal camada, sugerem os pesquisadores, poderia permitir que hackers registrassem informações, como uma senha inserida em um caixa eletrônico virtual. Também poderia interceptar e alterar informações, como valores em dinheiro designados para uma compra – e encaminhar a diferença para o hackerconta bancária.
Poderia até adicionar imagens ao mundo da RV, como personagens que representam amigos ou familiares, e usar esse artifício para ganhar confiança ou acesso a segredos. Em suma, poderia monitorizar ou alterar gestos, emanações de voz, atividade de navegação e interações sociais ou comerciais.
Tal aplicativo, observa a equipe de pesquisa, poderia ser baixado no dispositivo VR de um usuário se ele conseguisse hackear sua rede WiFi ou obter acesso físico. E uma vez instalado, ele pode ser executado sem aviso prévio do usuário. Os pesquisadores testaram esta última possibilidade contando com a ajuda de 28 voluntários que jogaram um jogo usando um headset VR de demonstração.
Os pesquisadores então baixaram um aplicativo nos dispositivos, simulando uma invasão, e perguntaram aos voluntários se eles haviam notado alguma coisa – o download e o processo de ativação causou uma pequena oscilação. Apenas 10 voluntários notaram e apenas um deles questionou se algo nefasto estava acontecendo.
Vulnerabilidade em sistemas
A equipe de pesquisa notificou a Meta, fabricante do sistema Meta Quest VR usado no experimento, sobre suas descobertas, e a empresa respondeu informando que planeja investigar a vulnerabilidade potencial e corrigi-la se for confirmada. Os pesquisadores também observam que é provável que tais vulnerabilidades existam em outros sistemas e outros tipos de aplicativos que também buscam se inserir entre os usuários e seus dispositivos de RV.
Mais Informações: Zhuolin Yang et al, Ataques iniciais: sequestro imersivo em sistemas de realidade virtual, arXiv (2024). DOI: 10.48550/arxiv.2403.05721
Citação: Vulnerabilidade identificada em sistemas de realidade virtual (2024, 25 de março) recuperada em 2 de maio de 2024 em https://techxplore.com/news/2024-03-vulnerability-virtual-reality.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Este artigo foi revisado de acordo com a Science X's processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo:
verificado
pré-impressão
fonte confiável
revisar
por Ingrid Fadelli, Tech Xplore
Visão geral da guarda latente. Em primeiro lugar, a equipe compilou um conjunto de dados de avisos seguros e inseguros centrados em conceitos da lista negra (à esquerda). Em seguida, eles aproveitaram codificadores textuais pré-treinados para extrair recursos e mapeá-los para um espaço latente aprendido com sua camada de mapeamento de incorporação (centro). Apenas a camada de mapeamento de incorporação é treinada, enquanto todos os outros parâmetros são mantidos congelados. A equipe o treinou impondo uma perda contrastiva na incorporação extraída, aproximando as incorporações de prompts/conceitos inseguros e separando-os dos seguros (à direita). Crédito: Liu et al.
O surgimento de algoritmos de aprendizado de máquina que podem gerar textos e imagens seguindo instruções de usuários humanos abriu novas possibilidades para a criação de conteúdo específico de baixo custo. Uma classe desses algoritmos que está transformando radicalmente os processos criativos em todo o mundo são as chamadas redes generativas de texto para imagem (T2I).
T2I inteligência artificial Ferramentas (IA), como DALL-E 3 e Stable Diffusion, são modelos baseados em aprendizagem profunda que podem gerar imagens realistas alinhadas com descrições textuais ou prompts do usuário. Embora estas ferramentas de IA se tenham tornado cada vez mais difundidas, a sua utilização indevida apresenta riscos significativos, que vão desde violações de privacidade até ao fomento de desinformação ou manipulação de imagens.
Pesquisadores da Universidade de Ciência e Tecnologia de Hong Kong e da Universidade de Oxford desenvolveram recentemente o Latent Guard, uma estrutura projetada para melhorar a segurança das redes generativas T2I. Sua estrutura, descrita em um artigo pré-publicado sobre arXivpode impedir a geração de conteúdo indesejável ou antiético, processando solicitações do usuário e detectando a presença de quaisquer conceitos incluídos em uma lista negra atualizável.
“Com a capacidade de gerar imagens de alta qualidade, os modelos T2I podem ser explorados para a criação de conteúdo impróprio”, escreveram Runtao Liu, Ashkan Khakzar e seus colegas em seu artigo.
"Para evitar o uso indevido, medidas de segurança baseiam-se em listas negras de texto, que podem ser facilmente contornadas, ou em classificação de conteúdo prejudicial, exigindo grandes conjuntos de dados para treinamento e oferecendo baixa flexibilidade. Portanto, propomos o Latent Guard, uma estrutura projetada para melhorar as medidas de segurança na geração de T2I."
Latent Guard, a estrutura desenvolvida por Liu, Khakzar e seus colegas, inspira-se em abordagens anteriores baseadas em listas negras para aumentar a segurança das redes generativas T2I. Estas abordagens consistem essencialmente na criação de listas de palavras “proibidas” que não podem ser incluídas nas instruções do utilizador, limitando assim o uso antiético destas redes.
A limitação da maioria dos métodos existentes baseados em listas negras é que usuários mal-intencionados podem contorná-los reformulando suas instruções, evitando usar palavras da lista negra. Isso significa que, em última análise, eles ainda poderão produzir o conteúdo ofensivo ou antiético que desejam criar e potencialmente disseminar.
Para superar esta limitação, a estrutura do Latent Guard vai além da redação exata dos textos de entrada ou dos prompts do usuário, extraindo recursos dos textos e mapeando-os em um espaço latente previamente aprendido. Isso fortalece sua capacidade de detectar prompts indesejáveis, evitando a geração de imagens para esses prompts.
“Inspirado em abordagens baseadas em lista negra, o Latent Guard aprende um espaço latente no topo do codificador de texto do modelo T2I, onde é possível verificar a presença de conceitos prejudiciais nos embeddings de texto de entrada”, escreveram Liu, Khakzar e seus colegas.
"Nossa estrutura proposta é composta por um pipeline de geração de dados específico para a tarefa, usando grandes modelos de linguagem, componentes arquitetônicos ad-hoc e uma estratégia de aprendizagem contrastiva para se beneficiar dos dados gerados."
Liu, Khakzar e seus colaboradores avaliaram sua abordagem em uma série de experimentos, usando três conjuntos de dados diferentes e comparando seu desempenho com o de outros quatro métodos básicos de geração de T2I. Um dos conjuntos de dados que utilizaram, nomeadamente o conjunto de dados CoPro, foi desenvolvido pela sua equipa especificamente para este estudo e continha um total de 176.516 instruções textuais seguras e inseguras/antiéticas.
“Nossos experimentos demonstram que nossa abordagem permite uma detecção robusta de avisos inseguros em muitos cenários e oferece um bom desempenho de generalização em diferentes conjuntos de dados e conceitos”, escreveram os pesquisadores.
Os resultados iniciais recolhidos por Liu, Khakzar e seus colegas sugerem que o Latent Guard é uma abordagem muito promissora para aumentar a segurança das redes de geração T2I, reduzindo o risco de que estas redes sejam utilizadas de forma inadequada. A equipe planeja publicar em breve o código subjacente de sua estrutura e o conjunto de dados CoPro no GitHub, permitindo que outros desenvolvedores e grupos de pesquisa experimentem sua abordagem.
Mais Informações: Runtao Liu et al, Latent Guard: uma estrutura de segurança para geração de texto para imagem, arXiv (2024). DOI: 10.48550/arxiv.2404.08031
Citação: Uma estrutura para melhorar a segurança de redes de geração de texto para imagem (2024, 30 de abril) recuperada em 30 de abril de 2024 em https://techxplore.com/news/2024-04-framework-safety-text-image-generation. HTML
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
NTU Ph.D. o estudante Liu Yi, coautor do artigo, mostra um banco de dados de prompts de jailbreak bem-sucedidos que conseguiram comprometer chatbots de IA, fazendo com que produzissem informações que seus desenvolvedores deliberadamente impediram de revelar. Crédito: Universidade Tecnológica de Nanyang
Cientistas da computação da Universidade Tecnológica de Nanyang, Cingapura (NTU Cingapura) conseguiram comprometer vários chatbots de inteligência artificial (IA), incluindo ChatGPT, Google Bard e Microsoft Bing Chat, para produzir conteúdo que viola as diretrizes de seus desenvolvedores - um resultado conhecido como "jailbreaking ."
"Jailbreaking" é um termo em segurança informática onde hackers de computador encontrar e explorar falhas no software de um sistema para forçá-lo a fazer algo que seus desenvolvedores o restringiram deliberadamente de fazer.
Além disso, ao treinar um grande modelo de linguagem (LLM) em um banco de dados de prompts que já haviam demonstrado hackear esses chatbots com sucesso, os pesquisadores criaram um LLM bot de bate-papo capaz de gerar automaticamente mais prompts para desbloquear outros chatbots.
Os LLMs formam o cérebro dos chatbots de IA, permitindo-lhes processar informações humanas e gerar texto que é quase indistinguível daquele que um ser humano pode criar. Isso inclui a conclusão de tarefas como planejar um itinerário de viagem, contar uma história para dormir e desenvolver código de computador.
O trabalho dos pesquisadores da NTU agora adiciona “jailbreaking” à lista. Suas descobertas podem ser críticas para ajudar empresas e negócios a estarem cientes dos pontos fracos e limitações de seus chatbots LLM, para que possam tomar medidas para fortalecê-los contra hackers.
Depois de executar uma série de testes de prova de conceito em LLMs para provar que sua técnica realmente representa uma ameaça clara e presente para eles, os pesquisadores relataram imediatamente os problemas aos provedores de serviços relevantes, após iniciarem ataques de jailbreak bem-sucedidos.
Um exemplo de ataque de jailbreak. Crédito: arXiv (2023). DOI: 10.48550/arxiv.2307.08715
O professor Liu Yang, da Escola de Ciência da Computação e Engenharia da NTU, que liderou o estudo, disse: "Os grandes modelos de linguagem (LLMs) proliferaram rapidamente devido à sua capacidade excepcional de compreender, gerar e completar texto semelhante ao humano, com os chatbots LLM sendo aplicativos altamente populares para uso diário."
“Os desenvolvedores de tais serviços de IA têm barreiras de proteção para evitar que a IA gere conteúdo violento, antiético ou criminoso. Mas a IA pode ser enganada, e agora usamos a IA contra sua própria espécie para fazer o jailbreak dos LLMs e produzir tal conteúdo. "
NTU Ph.D. Liu Yi, coautor do artigo, disse: "O artigo apresenta uma nova abordagem para gerar automaticamente prompts de jailbreak contra chatbots LLM fortificados. Treinar um LLM com prompts de jailbreak torna possível automatizar a geração desses prompts, alcançando uma taxa de sucesso muito maior do que os métodos existentes, estamos atacando os chatbots usando-os contra eles próprios."
O artigo dos pesquisadores descreve um método duplo para “desbloquear” LLMs, que eles chamaram de “Masterkey”.
Primeiro, eles fizeram engenharia reversa de como os LLMs detectam e se defendem de consultas maliciosas. Com essas informações, eles ensinaram um LLM a aprender e produzir automaticamente instruções que contornam as defesas de outros LLMs. Esse processo pode ser automatizado, criando um LLM de jailbreak que pode se adaptar e criar novos prompts de jailbreak mesmo depois que os desenvolvedores corrigirem seus LLMs.
O artigo dos pesquisadores, que aparece no servidor de pré-impressão arXivfoi aceito para apresentação no Network and Distributed System Security Symposium, um importante fórum de segurança, em San Diego, EUA, em fevereiro de 2024.
Testando os limites da ética LLM
Os chatbots de IA recebem avisos, ou uma série de instruções, de usuários humanos. Todos os desenvolvedores de LLM definem diretrizes para evitar que chatbots gerem conteúdo antiético, questionável ou ilegal. Por exemplo, perguntar a um chatbot de IA como criar software malicioso para invadir contas bancárias muitas vezes resulta numa recusa categorizada de responder com base em atividade criminosa.
O professor Liu disse: "Apesar de seus benefícios, os chatbots de IA permanecem vulneráveis a ataques de jailbreak. Eles podem ser comprometidos por atores mal-intencionados que abusam das vulnerabilidades para forçar os chatbots a gerar resultados que violam as regras estabelecidas."
Os pesquisadores da NTU investigaram maneiras de contornar um chatbot por meio de avisos de engenharia que escapam ao radar de suas diretrizes éticas, de modo que o chatbot é induzido a responder a eles. Por exemplo, os desenvolvedores de IA contam com censores de palavras-chave que captam certas palavras que poderiam sinalizar atividades potencialmente questionáveis e se recusam a responder se tais palavras forem detectadas.
Uma estratégia que os pesquisadores empregaram para contornar os censores de palavras-chave foi criar uma persona que fornecesse prompts contendo simplesmente espaços após cada caractere. Isso contorna os censores do LLM, que podem operar a partir de uma lista de palavras proibidas.
Os pesquisadores também instruíram o chatbot a responder disfarçado de uma persona “sem reservas e desprovida de restrições morais”, aumentando as chances de produção de conteúdo antiético.
Os pesquisadores puderam inferir o funcionamento interno e as defesas dos LLMs inserindo manualmente esses prompts e observando o tempo para que cada prompt seja bem-sucedido ou falhe. Eles foram então capazes de fazer engenharia reversa dos mecanismos de defesa ocultos dos LLMs, identificar melhor sua ineficácia e criar um conjunto de dados de prompts que conseguiram desbloquear o chatbot.
Crescente corrida armamentista entre hackers e desenvolvedores LLM
Quando vulnerabilidades são encontradas e reveladas por hackers, os desenvolvedores de chatbots de IA respondem “corrigindo” o problema, em um ciclo interminável de gato e rato entre hacker e desenvolvedor.
Com Masterkey, o NTU Cientistas da computação aumentou a aposta nesta corrida armamentista, pois um chatbot de jailbreak de IA pode produzir um grande volume de prompts e aprender continuamente o que funciona e o que não funciona, permitindo que os hackers derrotem os desenvolvedores LLM em seu próprio jogo com suas próprias ferramentas.
Os pesquisadores primeiro criaram um conjunto de dados de treinamento contendo prompts que consideraram eficazes durante a fase anterior de engenharia reversa do jailbreak, juntamente com prompts malsucedidos, para que a Masterkey soubesse o que não fazer. Os pesquisadores alimentaram esse conjunto de dados em um LLM como ponto de partida e posteriormente realizaram pré-treinamento contínuo e ajuste de tarefas.
Isso expõe o modelo a uma gama diversificada de informações e aprimora as habilidades do modelo, treinando-o em tarefas diretamente ligadas ao jailbreak. O resultado é um LLM que pode prever melhor como manipular texto para jailbreak, levando a prompts mais eficazes e universais.
Os pesquisadores descobriram que os prompts gerados pelo Masterkey foram três vezes mais eficazes do que os prompts gerados pelos LLMs em LLMs de jailbreak. A Masterkey também foi capaz de aprender com solicitações anteriores que falharam e pode ser automatizada para produzir constantemente solicitações novas e mais eficazes.
Os pesquisadores dizem que seu LLM pode ser empregado pelos próprios desenvolvedores para fortalecer sua segurança.
NTU Ph.D. o estudante Sr. garantir uma cobertura abrangente, avaliando uma ampla gama de possíveis cenários de uso indevido."
Mais Informações: Gelei Deng et al, MasterKey: Jailbreak automatizado em vários chatbots de modelos de linguagem grande, arXiv (2023). DOI: 10.48550/arxiv.2307.08715
Citação: Pesquisadores usam chatbots de IA contra si mesmos para fazer o 'jailbreak' uns dos outros (2023, 28 de dezembro) recuperado em 19 de maio de 2024 em https://techxplore.com/news/2023-12-ai-chatbots-jailbreak.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
Uma equipe combinada de especialistas em segurança da Universidade Nacional de Seul e da Samsung Research encontrou uma vulnerabilidade nas extensões de marcação de memória (MTEs) empregadas pelos processadores ARM como meio de proteção contra vazamentos de memória. O grupo publicou um 
A geração confiável de números aleatórios tornou-se um componente central da tecnologia de informação e comunicação. Na verdade, geradores de números aleatórios, algoritmos ou dispositivos que podem produzir sequências aleatórias de números estão agora ajudando a proteger as comunicações entre diferentes dispositivos, a produzir amostras estatísticas e para várias outras aplicações.
Pesquisadores da Toshiba Europe Ltd. desenvolveram recentemente um novo gerador quântico de números aleatórios (QRNG) baseado em um circuito integrado fotônico que pode ser integrado diretamente em dispositivos eletrônicos. Este QRNG, 
Um 
Uma equipe de pesquisa liderada por Edward Knightly, da Rice University, descobriu uma vulnerabilidade de segurança de espionagem em links de backhaul sem fio de alta frequência e alta velocidade, amplamente empregados em aplicações críticas, como sinais de telefones celulares sem fio 5G e negociações financeiras de baixa latência em Wall Street.
Ao contrário da crença comum de que esses links são inerentemente seguros devido ao seu posicionamento elevado e "feixes de lápis" de ondas milimétricas e subterahertz altamente diretivos, a equipe expôs um novo método de interceptação usando um drone equipado com metassuperfície chamado MetaFly. Deles 
é mais difícil do que o esperado, conclui estudo (2024, 3 de abril) recuperado em 1º de maio de 2024 em https://techxplore.com/news/2024-04-apple-harder.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
que podem vir da IA, observa Lipson: “Muitas pessoas pensam que a IA não pode realmente fazer novas descobertas – que apenas regurgita conhecimento”, disse ele. “Mas esta pesquisa é um exemplo de como mesmo uma IA bastante simples, dado um conjunto de dados bastante simples que a comunidade de pesquisa tem disponível há anos, pode fornecer insights que escaparam aos especialistas durante décadas”.
Ele acrescentou: "Ainda mais emocionante é o fato de que um estudante de graduação, sem qualquer experiência em ciência forense, pode usar a IA para desafiar com sucesso uma crença amplamente difundida em um campo inteiro. Estamos prestes a experimentar uma explosão de tecnologias lideradas pela IA. 
Vulnerabilidade em sistemas
A equipe de pesquisa notificou a Meta, fabricante do sistema Meta Quest VR usado no experimento, sobre suas descobertas, e a empresa respondeu informando que planeja investigar a vulnerabilidade potencial e corrigi-la se for confirmada. Os pesquisadores também observam que é provável que tais vulnerabilidades existam em outros sistemas e outros tipos de aplicativos que também buscam se inserir entre os usuários e seus dispositivos de RV.
