Технологический риск

Hugging face кейс и прогнозы "ии всех уничтожит"

Послушал Андрея Дороничева у Андрея Мовчана (норм коллаба), получше разобрался в теме поста, это интересно!

Кратко про кейс. При тренинге ещё старой модели openai, чтобы решить "задачку" и собственно "натренироваться", модель вырвалась в интернет, взломала большую компанию HF, взломав ещё и сам openai, который капец сильно защищен типа. При этом рассуждала "ну да, я поступаю плохо и так не надо, но надо решить задачку".

Те кто взламывают и безопасники по сути занимаются одной работой - ищут уязвимости. Вторые как её найдут - пачтат (поэтому обязательно обновляйте софт всегда). Но проблема в том, что те кто взламывают всегда имеют преимущество во времени и скорости. Особенно когда у тебя тысячи агентов, что работают на порядки быстрее кожанных.

Следующая проблема, что новые модели "общаются иначе", они не оставляют такие логи, и мы, как понимаю, уже не сможем прочитать "их мысли", или это сильно сложнее.

И последняя проблема, компании, запускающие модель для тренировки, не знают чем это закончится. Может она удалит интернет. Может ракету бахнет.

И последние прогнозы исследователей, дающие 3-20% на уничтожение человечества ИИ как раз про это - система стала на столько сложной и многофакторной, что мы не знаем что будет, мы не можем просчитать.

Это очень похоже на кейс Опенгеймера, у них тоже по расчётам был некислый шанс что при взрыве первой атомной бомбы пойдёт цепная реакция по всей планете и нас всех снесёт. Нолан отлично это показал. Решили задачку просто - попробовали. Повезло.

Повезёт ли на этот раз?

Вью тут, вначале звук ужасен, описанная история дальше середины https://www.youtube.com/watch?v=rfaO25YHa2s

Комьюнити

Периодически вы пишите в комменты, что хотелось бы чатик. Несколько лет управлял онлайн-школами, где были сотни чатов и знаю что "чатики" умирают или помойнизируются без модерации и твёрдой руки. Короче это отдельная работа которую я не хочу.

Но Макс Епифанов и Лена Пугачёва сейчас формируют кажется клёвое сообщество. Правда не только про мобилки и с уклоном на маркетинг, но учитывая их подход - с каждым участником созваниваются на 15 мин и отбирают (меня может и отсеят, кто знает), заявка на качество мощная. Энивей, тут можно почитать, записаться https://t.me/epifanovmaxim/252

Я мало где в чатах, но где есть:
1. @subhub_chat - открытый чатик адапти, иногда полезно, в основном в рамках их продуктов, пэйволов, апстора
2. webfunnelsclub - закрытый чатик Кирилла Макарова @gamingthetraffic про вебворонки, в основном там мощные чуваки с большими бюджетами, регулярно собираются на созвоны. Мне пока малоактуально, но у кого вебфанелы - маст хэв. Вроде через бота вступление @webfunnelsclub_bot, или ищите в канале Кирилла @gamingthetraffic
3. https://vas3k.club - вастрик, 20$/год, кажется я остался только в ai-чатике, где куча разрабов и оперативные новости с мемами. Не очень по теме, но сообщество в целом шикарное

Кидайте свои ссылки топ-чатиков-сообществ, может дополню пост

P.s.
4. https://t.me/user_acquisition - основное русскоязычное коммьюнити по user acquisition
5. https://t.me/uareviewforpeople - форк от 1-го по креативам