Как искусственный интеллект учится впаривать нам фигню.

[zlata_gl]

Ну, «все побежали — и я побежал».
Модная тема — искусственный интеллект.
Янай Загури объяснил, какие профессии вскоре исчезнут в Израиле в связи с развитием искусственного интеллекта (ИИ).

Преподает на факультете технологий обучения в колледже HIT в Холоне, а также занимает должность замгендиректора в компании AppsFlyer, занимающейся социометрией и анализом данных маркетинговых кампаний в области мобильной связи...

– Приведите хотя бы один пример.

– Допустим, у меня есть сотрудник отдела продаж, которому нужно сообщить клиенту то, что тот не хотел бы услышать. Проще говоря, отказать ему. При помощи ИИ можно составить сообщение по электронной почте, которое будет, с одной стороны, однозначным, с другой – содержательным. Там будет сказано, что клиент сможет получить скидку в размере 25% от запрошенной, но при этом будет сказано, что компания заинтересована в работе с ним и будет подчеркнута его важность для предприятия.

То есть, теперь вместо Васи и Маруси меня будет обзванивать «искусственный интеллект». И объяснять, как компания заинтересована в работе со мной. А когда мне нужна тех. поддержка, я по прежнему буду полчаса слушать советы «зайти в интернет и всё сделать на их сайте». Это когда у меня интернет не работает.

ИИ имеет большое преимущество перед Васей и Марусей. Они, послушав 10 раз объяснения абонента, что их наняли жулики, что они работают не в ХОТ, а АйПейЛесс, — поймут, что так оно и есть. Что все абоненты подряд по случайному списку — не могли договориться врать. Значит наврал таки наниматель. Тем более, что большинство «сотрудников отдела продаж» сидят за рубежом и не знают на иврите даже «эйх корим леха?» (как тебя зовут ?).
У нормального человека есть некий естественный инстинкт против вранья, хоть и ослабляемый телефонным проводом.
ИИ ничего не знает «по жизни». У него — только та информация, которой его «накормили».
"Отдел продаж" — это что за «профессия» такая ?
Первое – это модель Text to text, в этой сфере работает ChatGPT и аналогичные ему боты. В них вводят один текст и получают другой. Эта модель очень хорошо понимает тексты и проявляет недюжинные риторические способности. Но это не означает, что бот владеет фактами – он может вполне убедительно выдавать и фейки.

Так точно. Причем фейки будут созданы так, что клиент не успеет сообразить, где «подстава». По скорости соображаловки ИИ и человек — в разных «весовых категориях». Как бегуну соревноваться с автомобилем.
Пока человек поймет — он уже несколько раз ответит «да». И нет проблем потом — эти «да» скомпиллировать, чтобы они стали ответами на другие вопросы.

– На всех, кто в работе пользуются речью, это повлияет. Будь то сотрудники отдела продаж, отдела рекламы и маркетинга, журналисты, создатели контента.

Второе направление – работа с комбинированными медиа: изображениями, фильмами, звукозаписями, программами редактирования видеозаписей вроде Adobe After Effects.

То есть — фальсификация всего, что можно и нельзя. Будь то репортажи в новостях или улики.
Пааадумаешь Клаас Релоциус, если кто еще помнит такого.
Всё будет с фотками, речью и видео.
Преподаватель Янай Загури любит показывать студентам на семинарах слайд с 15 своими фотографиями. Одна из них реальная, снятая живым фотографом, остальные созданы генератором изображений Stable Diffusion, работающим на искусственном интеллекте. Загури просит студентов найти настоящую фотографию. И - внимание, сюрприз! - им редко это удается.

Кстати о профессиях.
Я задала вопрос ИИ:
Миллионы людей заняты тяжелым утомительным неквалифицированным трудом на строительстве, на заводах. Может ли искусственный интеллект помочь созданию роботов, которые будут выполнять эти работы ?
Получила длинные, пространные и совершенно бессодержательные ответы.
Никто не собирается облегчать труд строительных рабочих, о которых каждый день пишут в новостях, когда они разбиваются насмерть.
Впаривать «гербалайфы» — доходней оно и прелестней.

Еще одно великолепное применение ИИ — цензор.

– Технологические компании не умеют защищать своих пользователей.

– У них не будет иного выбора. В соцсетях, например, придется разрабатывать алгоритмы, продвигающие публикации, основанные на либеральных ценностях, и подавлять те, что провоцируют конфликты и рознь. Не по доброте душевной, а из опасения лишиться пользователей, в отсутствие которых нет заработка.

Либеральненько так. И совершенно открыто, не таясь.
Не будешь продвигать «либеральные ценности» — убирайся вон из сети !
Фиг тебе — заработок !
Нет у тебя другого выхода.
А какие ценности являются «правильными» — определит, конечно, хозяин.
Мордокнига была «свободной сетью» и привлекла миллионы клиентов. Каждая фирма общается там с клиентами. Хочешь написать коммент в любое сетевое СМИ — пиши через аккаунт «империй добра». «Прокололся», написал неугодное империи — всё, тебя нет. Ты уже не пишешь ни в это СМИ, ни в остальные, ни в группы. А с недавних пор — могут и в Вотсаппе забанить.
Все под колпаком у Мюллера !

Почитала тему и хотела написать коммент.
Пока собиралась, за меня его уже написали.

Comments

[midzenis.livejournal.com]

А праффесору кто-то соизволил объяснить что дрочить на воображаримум — не по библейски? Хотя и гиегинично, многословно и грантов соскрести возможно.
Но такое. Аниме интересней.

[levgilman.livejournal.com]

"Они, послушав 10 раз объяснения абонента, что их наняли жулики, что они работают не в ХОТ, а АйПейЛесс, — поймут, что так оно и есть. Что все абоненты подряд по случайному списку — не могли договориться врать."

Не понял. Этих обзвонщиков что, используют втемную, а сами они не знают, что работают на мошенников, а не на серьёзную фирму?
Другое дело, что вне своей узкой роли они могут ничего и не знать.

[zlata-gl.livejournal.com]

Первая ласточка

Германский медиа-холдинг Funke, издатель журнала Die Aktuelle, принес извинения за публикацию изданием "интервью" с легендарным автогонщиком Михаэлем Шумахером, в котором ответы были сгенерированы искусственным интеллектом. Главный редактор Die Aktuelle Анне Хоффман уволена.https://www.newsru.co.il/world/23apr2023/schum_202.html (https://www.newsru.co.il/world/23apr2023/schum_202.html)

[jescid.livejournal.com]

Коммент, конечно, несколько интеллектуальнее потока сознания по ссылке… ИИ не имеет системы восприятия, жёстко заземлённой на смертность и, т.о., желание выживать в т.ч. через нежелание быть обманутым (фатально обманутым в данном случае).

Когда люди сами не писали руками автоматов или хотя бы контроллеров, когда они ни в зуб ногой не могут понять, что такое нейронная сеть и как именно она работает (что в массе курсов маш. обучения опускается именно потому, что сам препод этого не понимает), то все их блаблаблания на тему какие-то… эм… garbage in mind…

А Маск потроллил обывателей именно тем, что давно уже есть и работает (как, например, системы соц. рейтинга — открытые в Китае и закрытые на Западе).

[zlata-gl.livejournal.com]

Еще одно возможное (общественно-вредное) применение ИИ — против капчи.
Проблемы с заказом очередей в МВД и другие госучреждения Израиля: причины, расследование, комментарии (https://www.newsru.co.il/israel/26apr2023/myvisit_problem_501.html)

Поскольку телеграмм-канал "Голденберг говорит" призван, в том числе, помогать новым репатриантам решать бюрократические проблемы, Леонид начал разбираться в происходящем с очередями и пришел к выводу, что они действительно все заняты на полгода вперед, только не людьми, а ботами. Эти боты были созданы аферистами, чтобы потом продавать очереди людям, которым они нужны.

Как обнаружил Голденберг, очереди продаются через телеграм-каналы, и не только русскоязычные. Такие каналы есть на иврите, английском и французском...

Проверка, проведенная нашей редакцией, показала, что связаться с аферистами очень просто. Очереди стоят, в зависимости от срочности и ведомства, от 300 долларов и выше. В одной из таких групп, куда обратился наш журналист, прямо пишут, что подыскивают очереди "на коммерческих основаниях" и посылают цену уже в личном сообщении. Деньги за эти услуги предлагается перевести на карту в иностранном банке.
В середине апреля Управление регистрации населения сообщило, что они отследили телефонные номера, на которые были записаны очереди, и удалили пять тысяч очередей из тех, которые были ранее забронированы на сайте или в приложении MyVisit мошенниками с целью продажи. Еще через две недели, 24 апреля, в Управлении заявили, что "освободили" еще полторы тысячи очередей.

Однако среди этих тысяч аннулированных очередей были и очереди, действительно заказанные для себя гражданами страны, а не ботами мошенников. ..

При этом в MyVisit, по словам Гинзбурга, отсутствует полноценная защита от автоматизации. Есть только минимальная защита – "капча". В MyVisit она есть, но у нее два изъяна. Во-первых, она сделана по старой технологии, когда просто нужно ввести в поле легко читаемые буквы и цифры. Сегодня технологии машинного зрения находятся на таком этапе развития, что очень легко написать программу, которая будет распознавать "капчу" автоматически. Поэтому сегодня "капчу" делают сложнее и она требует от пользователя действий. Например, нажать на кнопку "я не робот" или выделить "все фотографии со светофорами". Кроме того, "капча" вводится в MyVisit всего один раз, а не каждый раз, когда пользователь ищет очередь. "Капча есть, но ни от чего не защищает", – говорит Беньямин.
Разумеется, в наше время — эта капча — НЕ доказательство "я не робот".

Новый сайт (https://govisit.gov.il/ru/home) пока работает только для министерства транспорта
(регистрация автомобилей, водительские права).

В общем — пока не "бунт машин", а "Всё понятно. Это жулики".

[zlata-gl.livejournal.com]

В коллекцию
Люди, вкалывающие на тяжёлых и опасных работах, и искусственный интеллект, сочиняющий стихи и пишущий картины - как-то не так представлялось будущее...
(https://www.anekdot.ru/id/1398425/)