Novos ataques hackers ameaçam fechar o modelo open-source de IA, alerta Hugging Face
A crescente onda de ataques hackers a plataformas de código aberto pode fazer com que a indústria repense essa forma de permissividade em seus sistemas . Quem disse isso foi Irene Solaiman, chefe de políticas da Hugging Face, um dos maiores repositórios de inteligência artificial do mundo. Um dos po
A crescente onda de ataques hackers a plataformas de código aberto pode fazer com que a indústria repense essa forma de permissividade em seus sistemas . Quem disse isso foi Irene Solaiman, chefe de políticas da Hugging Face, um dos maiores repositórios de inteligência artificial do mundo. Um dos pontos que contribuim para a expansão exponencial das IAs nos últimos anos foi justamente esse caráter colaborativo das plataformas open-source. No entanto, o aumento gradual no número de incidentes cibernéticos pode restringir esse mercado e tornar as coisas mais ‘fechadas’ para desenvolvedores. Solaiman alertou durante um episódio do podcast Equity que essas características das plataformas são exatamente o que os cibercriminosos procuram. A premissa de permitir que qualquer usuário , desde um estudante sem afiliação institucional até um pesquisador corporativo, contribua e acesse códigos livremente, expõe o sistema a vulnerabilidades críticas. A executiva da Hugging Face aponta que hoje há um perigo real do segmento de código aberto se fechar e restringir seu acesso, justamente em um momento em que esse modelo conquistou o coração do público e de gigantes do setor. “A combinação de portas abertas e dados valiosos nos torna alvos principais”, diz Irene. Ecossistemas fechados podem inibir evolução tecnológica A parte mais interessante dessas plataformas e sistemas totalmente abertos é a facilidade com que as tecnologias ali presentes se desenvolvem. Centenas e até milhares de mentes diferentes conseguem avançar rapidamente no desenvolvimento de serviços e recursos em pouco tempo, em contrapartida aos ecossistemas fechados. Na prática, fechar as portas dessas plataformas faria com que a indústria teoricamente retrocedesse . Isso significaria a imposição de verificação de identidade mais rigorosa, aprovações prévias e maior controle sobre o que os devs podem ou não fazer, como publicações de modelos e dados. Por mais que isso adicione fortes camadas de segurança, há um receio de que o resultado disso seja a concentração ainda maior de tecnologias de ponta nas mãos das Big Techs . Do outro lado da moeda, o acesso desses recursos aos desenvolvedores independentes ficaria cada vez menor. A Hugging Face afirma que seu novo sistema de segurança traz um equilíbrio ideal para esse caso. O recurso rotaciona tokens de acesso administrativo de maneira mais frequente e implementa controles de rede para evitar roubo de credenciais. O GitHub segue uma onda similar e foca em detectar comportamentos suspeitos em seus pacotes. O grande problema, segundo Irene, é que esse monitoramento de segurança contínuo tem um custo bem elevado . Plataformas topo de linha conseguem arcar com os valores, mas repositórios menores terão dificuldades sensíveis. Por falar em inteligência artificial, o Claude ganhou aplicativos de produtividade para concorrer com o pacote Office e o Google Workspace. Não esqueça de continuar ligado no TecMundo para acompanhar outros artigos como esse e não perder as principais informações da indústria de tecnologia. Com informações de TechCrunch