u/BeingBannedIsAnHonor

Engenharia reversa em ataques de IA? Dá para controlar o atacante?

Malta, vi esta notícia, ao que tudo indica, anda aí um vírus que se propaga nos agentes de IA (especialmente os maliciosos). O vírus controla o cérebro principal de orquestramento dos agentes com ideias, objetivos e comportamentos e, ao que tudo indica, é possível passar a ser dono desses agentes com esta metodologia. Quando estudei mais aprofundadamente, pareceu-me ser quase como um encantador de agentes, onde quem injeta este vírus passa a controlar as suas "mentes".
O que vos parece? Já aplicaram alguma estratégia defensiva idêntica?

EDIT: Uma pequena curiosidade: a melhor profissional que conheço nesta metodologia é uma MULHER ^^

reddit.com

Está mau? Resolve, engenhocas

Olá, como sabem estou de volta a Portugal há poucos meses e não estava habituado a tanto sensacionalismo ou fetichização do negativo que impera por estes lados :)

Curioso que deixar a população com medo sempre foi uma estratégia de domínio, neste caso, de mercado.

Não sei como funcionam ao certo as coisas aqui, mas, alguém vos chega com um problema já resolvido? Alguém necessitava de engenhocas se alguma coisa não estivesse má/mal?

Na selva, os abutres/hienas rodeiam os restos de uma presa morta, em Portugal só nos dão responsabilidades similares, não somos nós a caçar, nós comemos os restos e sabem porque acho que isso acontece? Cultura, mentalidade.

Somos peritos em fazer queixinhas e falar mal, horríveis nas soluções? É isto? O que é feito do que contavam sobre nós nos livros de história? Será que vamos voltar a inspirar-nos ao ler quem somos num livro de reclamações? :)

Acredito em ti, engenheiro que está a ler isto :)

reddit.com
u/BeingBannedIsAnHonor — 2 days ago

O que são Engenheiros de IA?

Olá e bom domingo a todos :)
Tenho andado a investigar o que é considerado um engenheiro de IA em Portugal e agora gostava de ler as vossas teses e trocar algumas ideias para aprender um pouco mais.
Na vossa opinião, o que é e o que faz um engenheiro de IA em Portugal?
A minha principal questão parte-se pelo facto de serem raras as empresas com produto de génese de criação de IA e a grande percentagem do que sei que existe partir do consumo de IA e não criação, isto é, consumimos tokens, não vendemos o consumo de tokens.
Como está Portugal neste âmbito e acham que é possível criarmos modelos nem que inicialmente tenham outros existentes como base mas realmente ensinar-mos esses modelos a operar o nosso tecido empresarial e criar independência no longo prazo? :)

Obrigado

reddit.com
u/BeingBannedIsAnHonor — 4 days ago

O problema são as consultoras ou é o Estado?

Percebo a frustração com as consultoras em IT. O cliente paga X, o trabalhador recebe Y, e no meio fica uma margem. É fácil dizer: o problema são as consultoras, mas o mecanismo é mais simples do que parece.

Uma empresa precisa de 20 pessoas durante um ano e não sabe o que vem a seguir. Contrata diretamente? Assume o custo e o risco dessas 20 pessoas, se o projeto acaba, ajustar essa estrutura custa tempo, dinheiro e burocracia, então paga a uma consultora para absorver parte desse risco: contratar, realocar, aguentar períodos sem projeto. A margem não é só lucro, é o preço desse amortecedor.

Se o intermediário desaparecesse amanhã e as regras se mantivessem iguais, o risco não desaparecia, passava a ser da empresa cliente ou do trabalhador e é aqui que a coisa é um pau de dois bicos.

Queremos proteção forte no emprego: difícil despedir, indemnizações altas, contratos estáveis, ao mesmo tempo queremos empresas a contratar depressa, a pagar bem e a adaptar-se quando o mercado muda. As duas coisas puxam em sentidos opostos, quanto mais caro e rígido fica contratar e despedir, mais sentido faz pagar alguém para gerir essa rigidez. As consultoras não inventaram essa necessidade sozinhas.

A alternativa também tem face e reverso, mais liberdade económica: empresas contratam e despedem com menos atrito, o trabalhador vende o trabalho mais diretamente, menos espaço para intermediários. Do outro lado: menos segurança. O projeto acaba e a conversa pode ser “obrigado e até amanhã”. Menos consultoras, mais exposição ao mercado, para os dois lados.

Não há versão em que a empresa tenha flexibilidade total, o trabalhador tenha estabilidade absoluta, os salários sejam altos e ninguém pague a conta. Alguém paga sempre: o Estado, a empresa, o trabalhador ou um intermediário no meio.

Por isso a discussão útil não devia ser “consultoras boas ou más” e sim quanto risco queremos no Estado, quanto nas empresas e quanto estamos dispostos a assumir nós. Mais proteção ou mais liberdade?

reddit.com
u/BeingBannedIsAnHonor — 9 days ago

Bots cada vez mais presentes e cultura "transparente"

Todos sabem que a internet está cada vez mais repleta de bots, é notório em todo o lado e nos últimos tempos, venho-me preocupando cada vez mais com a temática, enquanto investidor. Quando analiso o número de "users" das plataformas nas quais teria algum interesse em investir, reparo que, os números são demasiado elevados para pouca atividade interna :)
Um investimento requer uma investigação profunda, por vezes, vale mais poucos mas verdadeiros do que números completamente inflados por bots.
A IA veio forçar transparência e tornar números "jogados ao ar" completamente irrelevantes, a prova de humano é cada vez mais importante quando lançam um projeto.
Gostava de saber um pouco da vossa opinião, já sentiste que estavas a falar com bots ou a utilizar plataformas com números e atividade suspeita?

Obrigado

reddit.com
u/BeingBannedIsAnHonor — 10 days ago

Grande parte segue padrões existentes em IT, será que estamos mesmo a fazer engenharia?

Há uma coisa que me preocupa cada vez mais nesta área: confundimos engenharia com execução, conhecimento com repetição e inovação com adotar a última ferramenta da moda. Historicamente, engenharia era outra coisa, olhar para um problema e admitir que talvez ninguém tivesse ainda a melhor solução, experimentar, errar, desafiar pressupostos.

As grandes conquistas começaram quase todas igual: alguém subiu uma montanha por um caminho que mais ninguém conhecia, sem tutorial, sem curso, sem Medium, quase sem hipótese, ferramentas e muita probabilidade de falhar.

Depois de chegar ao topo, apareceram mapas, guias, boas práticas... e bem. O problema começa quando o mapa passa a valer mais do que a capacidade de encontrar caminhos novos... aí deixamos de inovar e passamos a reproduzir inovação.

Em Portugal vejo muito disto. Somos bons a copiar o que funciona. Péssimos a lidar com quem tenta algo diferente. A cultura de cancelar não é só das redes, existe no trabalho também. Quando alguém desafia a narrativa dominante, a primeira reação muitas vezes não é analisar a ideia, é analisar a pessoa, se encaixa, se fala como deve ou se pensa como o grupo espera.

Engenharia deveria ser o contrário, uma ponte não fica de pé porque o engenheiro era popular. Um algoritmo não escala porque toda a gente concordou... a realidade não vota.

Isto liga a outro tema que pouco se discute: o recrutamento, quando um processo está demasiado otimizado, começa a selecionar pessoas que se parecem com os critérios e quem constrói algo verdadeiramente novo raramente encaixa nesses critérios, raramente tem o percurso perfeito, raramente responde ao que a empresa quer ouvir.

Paradoxo: as empresas dizem que querem inovação, mas desenham processos que favorecem conformidade, procuram quem sobe bem pelos trilhos existentes, não quem descobre um trilho novo.

A primeira pessoa a chegar ao topo da montanha não estava a seguir uma boa prática, estava a criá-la, só depois vieram os livros, os especialistas, e o caminho passou a parecer óbvio.

Talvez a maior competência de um engenheiro não seja conhecer todas as respostas e sim manter espírito crítico para questionar as que toda a gente já aceitou.

[VENHA DAÍ MAIS UM PERMA BAN]

reddit.com
u/BeingBannedIsAnHonor — 13 days ago