Kategorie
guardrails narzędzia AI

Sójka – model typu „guardrails”

🚀 Dołącz do przełomowego projektu AI 🚀 Twoja cegiełka może zmienić świat!

Mamy dla Was coś wyjątkowego! Chcemy Was zaprosić do globalnej inicjatywy, która ma realny wpływ na bezpieczeństwo w sieci. To projekt, w którym każdy może pomóc budować AI chroniące nasze dzieci, młodzież i społeczeństwo przed toksycznymi treściami. Brzmi ciekawie? No to czytajcie dalej!

🔹 Innowacja nie zawsze oznacza nową architekturę AI. Czasem chodzi o świeże podejście do procesu – i właśnie takiego podejścia potrzebujemy! W hashtag#GRAI, razem z Katarzyna Z. Staroslawska, Agnieszka Kosiak, dr Dominika Kaczorowska-Spychalska, prof. UŁ, Aleksandra Tomaszewska, Marcin Walas (oraz większym zespołem oj pamięć już nie ta), badamy potencjał CITIZEN-GENERATED DATA – projektów, w których społeczeństwo aktywnie współtworzy dane.

Jednym z takich projektów będzie hashtag#ObywatelBielik (już za chwilę o nim usłyszycie!). Ale zanim do tego dojdziemy – mamy dla Was mega ważne wyzwanie!

💡 Czy kiedykolwiek zetknęliście się w sieci z hejtem, wulgaryzmami, nawoływaniem do przemocy? A może z niepokojącymi treściami w chatbotach, które powinny wspierać, a zamiast tego szkodzą? To ogromny problem, zwłaszcza dla młodych ludzi. Ich zdrowie psychiczne jest dziś na krawędzi – coraz częściej szukają wsparcia u AI, traktując ją jak wirtualnego przyjaciela. Ale co, jeśli zamiast pomocy dostaną toksyczne treści?

🛡️ Tworzymy model AI-strażnika („guardrails”), który pomoże wykrywać i eliminować zagrożenia. Może być wykorzystany do:

✅ moderacji komentarzy i wykrywania hejtu
✅ analizowania czatów pod kątem szkodliwych intencji
✅ filtrowania i poprawiania odpowiedzi AI, by unikać toksycznych treści
✅ ochrony użytkowników przed niebezpiecznymi treściami

W naszym zespole (Jerzy Surma, Jan Maria Kowalski, MBA, Igor Ciuciura, Krzysztof Wróbel Maciej Krystian Szymanski, Paweł Kiszczak) opracowaliśmy założenia dla modelu Sójka i stworzyliśmy system klasyfikacji treści.

Wynik? Udostępniliśmy ankietę i w kilka godzin mieliśmy 5831 odpowiedzi, a w kilka dni 20 000! 🚀

🔥 Ale to wciąż za mało! 🔥

W kursie hashtag#UmiejętnościJutraAI (pozdrawiamy Karol Stryja, Cezary Jaroni) organizowanym przez Google i SGH Warsaw School of Economics uczestniczyło 20 000 osób, większość zrobiła test z 50 pytaniami. FANTASTYCZNIE!. A co, gdyby wszyscy zrobili dodatkową „pracę dyplomową” – ocenili 10-20 treści w naszej ankiecie? To już 200 000 – 400 000 odpowiedzi! A jakby 50? MILION! 💥

To byłby game-changer – globalny dataset, który posłużyłby naukowcom do tworzenia lepszych, bardziej bezpiecznych modeli AI.

🤔 Challenge accepted? 💪 Link do strony projektu Sójka – model typu „guardrails”

Dołączcie do nas i pomóżcie stworzyć AI, które naprawdę chroni ludzi!