Искусственный Интеллект и социальные нормы

кщееш> Забавно

" созданная система не придерживается принципа гендерной нейтральности"
.... поскольку принцип не имеет ничего общего с эффективностью ))

кщееш> Забавно

Вынес в отдельную тему, потому как чем дальше, тем больше будет таких столкновений

Немного близкая тема ещё:

кщееш>> Забавно
Balancer> Вынес в отдельную тему, потому как чем дальше, тем больше будет таких столкновений
Balancer> Немного близкая тема ещё:
Balancer> Интернет, компьютеры и гаджеты в социуме — качественно новое в нашей жизни

ЛГБТ сообщество тоже будет удивлено. И интеллект признают ненастоящим .

кщееш> Искусственный интеллект проявил сексизм и этим поставил крест на приложении для найма от Amazon - BBC News Русская служба
кщееш> Забавно

На самом деле - не только. Статья бибисей - несколько скандальная и несолидная, есть еще.Программа игнорировала профессиональные данные и реагировала на ключевые слова вроде "освоил" и "достиг".Это к тому, что machine learning в лоб путем скармливания как можно более мощной машине как можно большего количества данных - тупой по сути, хоть и по сути же демонстрирует правдоподобный результат.Амазон, внезапно - крупнейший поставщик инфраструктуры, вот они и оттянулись.

кщееш>> Забавно
digger> На самом деле - не только. Статья бибисей - несколько скандальная и несолидная, есть еще.Программа игнорировала профессиональные данные и реагировала на ключевые слова вроде "освоил" и "достиг".Это к тому, что machine learning в лоб путем скармливания как можно более мощной машине как можно большего количества данных - тупой по сути, хоть и по сути же демонстрирует правдоподобный результат.Амазон, внезапно - крупнейший поставщик инфраструктуры, вот они и оттянулись.

да хз что там у них было под рукой.
вывод у машины был правильный.
у меня бывало из фактов только мелкие детали, а выводы оказались верными. Достраивать общую картину можно порой из минимум миниморум.
чем больше у машины будет данных тем более странными будут выводя для современного западного общества.

вангую)

кщееш> чем больше у машины будет данных тем более странными будут выводя для современного западного общества.
кщееш> вангую)
так скорректируют )))
Поставят коэффициенты значимости, где страшная черная лесбиянка с избытком веса будет получать больше баллов, чем выпускник МИТ при автоматизированном приеме на работу, просто по факту наличия данных признаков.

кщееш> вывод у машины был правильный.
кщееш> у меня бывало из фактов только мелкие детали, а выводы оказались верными.

Не верными, а правдоподобными.Кто в шляпе и с усами, тот шпион, и не придерешься.

кщееш> вывод у машины был правильный.
Ты этого не знаешь.

Это главная проблема глубокого обучения в сложных областях. Ты кормишь машину данными, она даёт тебе результат, и ты не знаешь, верен ли он. Можешь лишь сверять со своими ощущениями. Но даже если машина даёт что-то, что совпадает с твоими ощущениями, это нихрена не значит, что машина выдала что-то верное.

кщееш>> вывод у машины был правильный.
кщееш>> у меня бывало из фактов только мелкие детали, а выводы оказались верными.
digger> Не верными, а правдоподобнымию.
Угу. :\

кщееш>> вывод у машины был правильный.
Татарин> Ты этого не знаешь.
Татарин> Это главная проблема глубокого обучения в сложных областях. Ты кормишь машину данными, она даёт тебе результат, и ты не знаешь, верен ли он. Можешь лишь сверять со своими ощущениями. Но даже если машина даёт что-то, что совпадает с твоими ощущениями, это нихрена не значит, что машина выдала что-то верное.

ха
а как ты определяешь верность ответа на подобный вопрос в жизни?
вот ты мне задаешь такой же вопрос. я думаю пару минут и отвечаю также как ответила машина

И?

кщееш>> вывод у машины был правильный.
кщееш>> у меня бывало из фактов только мелкие детали, а выводы оказались верными.
digger> Не верными, а правдоподобными.Кто в шляпе и с усами, тот шпион, и не придерешься.

верность ответа на вопросы подобного типа определяет лишь время.
кто бы не ответил.
если это жизнь а не мультфильм.

кщееш> ха
кщееш> а как ты определяешь верность ответа на подобный вопрос в жизни?
кщееш> вот ты мне задаешь такой же вопрос. я думаю пару минут и отвечаю также как ответила машина
кщееш> И?
И я думаю про себя: ага, сталыть кщееш вот как считает, ладно, интересно.
А потом спрашиваю ещё пару человек.
И поступаю, ессно, по-своему. "Мы посовещались, и я решил."

Беда в том, что тебя бы вот вряд ли удивило, что какой-нить бизнесмен Ы Жбан Впень высказал бы нечто нетолерантное, за что был бы бит ЛГБТ-активисткой Джоном Сноу. Для тебя нормально думать, что люди могт не сойтись во взглядах на вопрос найма персонала, и совершенно ещё не факт, что Жбан Впень обязательно на 100% прав.
А вот на критику машинного мнения ты отреагировал. Причём так, как будто оспаривают объективное.

...
А с глубоким обучением у машины тоже есть своё мнение. И предрассудки. Основанные на обучающем датасете. И при некотором желании машину тоже можно та-ак научить... нетривиальным образом научить, что она будет бывших пионеровожатых где-то у себя в глубине своей машинной души вычислять и конкретно от них шарахаться. И ты никогда снаружи не поймёшь, почему в целом такого позитивного дядку записали как наихудшего кандидата.
И чем сложнее сеть и хуже её обучающий датасет, тем больше у неё странных фобий и комплексов. И это они ещё тупые, и личность создателя-учителя пока ещё мало проявляется... ну так будет хуже.

Понимать надо.

Татарин> А вот на критику машинного мнения ты отреагировал. Причём так, как будто оспаривают объективное.

нет. я конкретно ржал над формулировками.

Татарин> ...
Татарин> А с глубоким обучением у машины тоже есть своё мнение. И предрассудки. Основанные на обучающем датасете. И при некотором желании машину тоже можно та-ак научить... нетривиальным образом научить, что она будет бывших пионеровожатых где-то у себя в глубине своей машинной души вычислять и конкретно от них шарахаться. И ты никогда снаружи не поймёшь, почему в целом такого позитивного дядку записали как наихудшего кандидата.

в таком важном вопросе я использую две формально одинаковые машины, ибо знаю такие фокусы.

Машины одинаковы. данные одинаковы а ответы разные.
от и думай.

Татарин> И чем сложнее сеть и хуже её обучающий датасет, тем больше у неё странных фобий и комплексов. И это они ещё тупые, и личность создателя-учителя пока ещё мало проявляется... ну так будет хуже.
Татарин> Понимать надо.

у меня вот на трех этажах эти лаборатории сидят, и все одно и то же одно и то ж. туману напустят а вопрос простой. брать баб на работу или нет при наличии выбора мужиков.

однакож каждый завлаб решит в пользу мужика.
)))
сексисты видать.

а разговоры ну везде одни и те же.
типа а хрен его знает как она определяет. Главное что верно

например лица
это просто проверяется. либо он либо не он

однакож как только вопрос типа вышеуказанного так ну его нафиг

хотя казалось бы.

ну берешь как можно больший список ученых а пишешь национальность. и задаешь расово неверный вопрос

и?


и выясниться что люди не одинаковы. Какая нетолерантная новость.

Однако они меж тем равны. И именно это было главный культурным открытием новой истории.
и закрытие этого факта будет означать эпоху многих бед.

кщееш> а как ты определяешь верность ответа на подобный вопрос в жизни?
кщееш> вот ты мне задаешь такой же вопрос. я думаю пару минут и отвечаю также как ответила машина
кщееш> И?
А как ты определяешь верность твоих раскладов по анализу ситуации? Ведь не совпадением по тем событиям, что уже произошли.
А по сбыче прогнозов.
Я с машинным обучением, увы, не связан, но в далеком начале нулевых использовал себе в дипломе программку от питерского ГУ. Ей надо было скармливать данные статистики, она рисовала вспомогательные кривые, и по ним можно было прикинуть разложение графика на компоненты с некими частотами, фазами, амплитудами. Даже с переменным периодом можно было.. И после выбора опорных частот прога рисовала, как должен получаться график в изучаемой области, и как в прогнозной.
Так вот, если выбрать неверными опорные компоненты, график в проверяемой части получался более-менее близким, а в прогнозной - каким угодно. Сейчас вон миллионы хомяков точно так же с форексом играются - тоже строят некие "закономерности" и "модели", которые могут идеально отражать ретроспективу, но далее, вперед, они в абсолютном большинстве случаев никак не совпадают с реальностью.

Вот в этом и разница между "правдоподобным" и "правильным". Второй тебе даст верные прогнозы, а первый - только на тестовом поле будет вроде бы правдоподобно отвечать.

Bredonosec> Вот в этом и разница между "правдоподобным" и "правильным". Второй тебе даст верные прогнозы, а первый - только на тестовом поле будет вроде бы правдоподобно отвечать.
Именно! Сейчас стало очень простым написание систем, которые надёжно предсказывают прошлое.

И часто тривиальная подобная поделка на общедоступной библиотеке и называется ИИ.

Что особенно плохо в этой ситуации? То, что пользователь не знает даже, какое именно прошлое предсказывает машина.
Ну, в смысле, каким именно был обучающий датасет и какую хрень по небрежению программиста в неё загнали... переобучение только кажется простой проблемой, на самом деле, это хитрые многоуровневые грабли.

Короче: нынешним машинам верить опасно. Если обучающая выборка неизвестна или мала - безумно.
"Только ЛСД, только на кишку и только с молитвой"©Пелевин

Татарин>> А вот на критику машинного мнения ты отреагировал. Причём так, как будто оспаривают объективное.
кщееш> нет. я конкретно ржал над формулировками.
А... это да.
Только ты того... рано смеёшься. У этой палки два конца... когда машины будут массово влиять на решения (или принимать их), их обязательно обучат премудростям толерантностей и текущих течений в политических модах. И вот это будет конкретно не смешно.

Я вот посмотрел на историю с Linux CoC, чуток экстраполяции на ИИ... и что-то стало тоскливо. Я, скорее всего, не успею умереть до того, как оно придёт за мной. И дети... детей жалко.

Татарин> Только ты того... рано смеёшься. У этой палки два конца... когда машины будут массово влиять на решения (или принимать их), их обязательно обучат премудростям толерантностей и текущих течений в политических модах. И вот это будет конкретно не смешно.



а ты разве ничего странного не заметил последнее время в политических новостях?

Татарин> Я вот посмотрел на историю с Linux CoC, чуток экстраполяции на ИИ... и что-то стало тоскливо. Я, скорее всего, не успею умереть до того, как оно придёт за мной. И дети... детей жалко.

сейчас найду одну свою запись.. погоди



2006 год там.

я диссертацию писал. потом не стал защищать. может и стоит. мы не успеем с тобой умереть. не надейся. но возможно доживем до большой малой войны

Татарин> Я вот посмотрел на историю с Linux CoC, чуток экстраполяции на ИИ...

Причём, сам по себе CoC — вещь правильная, примерно как 10 заповедей. Проблема с ним в том, что ярые апологеты CoC ведут себя как attention whore, что нравится далеко не всем. У меня есть мнение, что многие проблемы с ЛГБТ оттуда же растут: они начинают себя вести как attention whores, вместо того, чтобы общаться с остальными людьми вежливо и культурно.

Татарин>> Я вот посмотрел на историю с Linux CoC, чуток экстраполяции на ИИ...
HolyBoy> Причём, сам по себе CoC — вещь правильная, примерно как 10 заповедей.
По здравом размышлении - не уверен. Он... как бы это сказать... экстерриториален, и уже в силу этого безумен. Кодекс поведения Линукс-разработчика определяет поведение человека, и далеко за пределами вопросов разработки, и далеко за пределами сферы общения о разработке (в соцсетях, где-то в оффлайне).

Два прямых следствия из этого:
- мы резко ограничиваем возможности дискуссии на "пограничные" и чувствительные темы, поднимая цену неправильных (или, точнее, "неправильных по текущему СоС") реплик для человека;
- мы не используем весь потенциал человечества, если пойдём по этому пути, ограничивая нацистов, феминистой и женоненавистников в техническом творчестве.

Всё это очень, очень плохо уже сейчас. А когда всем займутся нейросети, всё будет настолько плохо, что будет даже некому понять, насколько...

Скажем, Алан Тюринг не прошёл бы СоС своего времени.

Татарин> Всё это очень, очень плохо уже сейчас. А когда всем займутся нейросети, всё будет настолько плохо, что будет даже некому понять, насколько…

Ой, как я люблю черные прорицания.
А можно для дураков, что именно будет столь плохо?

AGRESSOR> А можно для дураков, что именно будет столь плохо?

Роботу невозможно объяснить, что он неправ. А железка неизбежно будет ошибаться, причём часто.

Татарин>> Всё это очень, очень плохо уже сейчас. А когда всем займутся нейросети, всё будет настолько плохо, что будет даже некому понять, насколько…
AGRESSOR> Ой, как я люблю черные прорицания.
AGRESSOR> А можно для дураков, что именно будет столь плохо?
Ты когда-нить пытался оспаривать автоматический штраф за превышение?

Ну так вот там критерии просты и однозначны, а автокамеры не запрещают тебе обсуждать скоростной режим.

Татарин> Ты когда-нить пытался оспаривать автоматический штраф за превышение?

Никогда не получал таковых. Зато были автоматические штрафы в США, за проезд через толл без оплаты. Но доказал невинность невиновность легко: RFID-таблетка EZ-pass почему-то при проезде через конкретные рамки не срабатывала. Передо мной даже извинялись. Почему бы и ИИ не извиниться, если в любой подобной сервис-системе будет некая функция "отработок ошибок"?

Татарин>> Ты когда-нить пытался оспаривать автоматический штраф за превышение?
AGRESSOR> Никогда не получал таковых. Зато были автоматические штрафы в США, за проезд через толл без оплаты. Но доказал невинность невиновность легко: RFID-таблетка EZ-pass почему-то при проезде через конкретные рамки не срабатывала. Передо мной даже извинялись. Почему бы и ИИ не извиниться, если в любой подобной сервис-системе будет некая функция "отработок ошибок"?
А если он будет считать, что прав? А если эту правоту поддержат программисты/владельцы, и с их точки зрения всё верно?
Что бы ты сделал, если бы RFID-таблетка бы исправно срабатывала, когда ты пытаешься доказать невиновность, но периодически не срабатывала бы по жизни? Ну, если ошибка была бы глубже, совершенно неочевидной и проявлялась бы в редких случаях (а то и вовсе только и именно в твоём случае)?

Тут реально возможна ситуация как в анекдоте про бога, который является к невезучему и объясняет ему - "не нравишься ты мужик, просто не нравишься".

...
Но с ИИ и моральностью ещё хуже.

На примере с вождением...

В твоей ситуации а)ты увидел, что тебе пришёл штраф, и б) штраф был достаточно велик, чтобы ты пошёл его оспаривать. Почему так? Потому что система не имеет ресурсов отслеживать более мелкие правонарушения, а единственный способ штрафовать тебя - присылать счета.
Представь себе, что ИИ заметил твоё неуверенное торможение, сообщил ИИ страховой компании, машина пересчитала вероятности, и твоя страховка выросла на 0.1%. Тебя никто даже не уведомит об этом - событие слишком малО. Но оно повлияет на твою жизнь, когда статистика поднакопится, однажды ты придёшь продлять страховку и окажется, что теперь ты должен платить на 70% выше, чем раньше. Потому что вероятности. И ты не сможешь ничего оспорить, потому что никто и никогда не будет разбираться в 97411 служебных пакетах от одной системы другой и выводах ИИ... да и логов, возможно, не будет.
Ты приходишь, тебе сообщают: "мужик, тебе страховка дороже, плати". На этом всё. Можешь не платить, но та же инфа у всех страховых компаний, так что страховаться на иных условиях тебе больше негде.

А теперь оставим в сторону ПДД, перенеси этот подход на вопросы толерантности и т.п.
Ты приходишь на работу, и тебе говорят: "мужик, ты не толерантный: твой индекс терпимости 2.2, а на эту работу нужно не менее 7.5". Или - что куда вероятнее и ещё хуже - ничего не говорят, просто констатируют: "вы нам не подходите".
Причём само обсуждение неверности работы машины и правил толерантности точно так же отслеживается всеми камерами во всех общественных местах, уменьшая твои индексы от законопослушности до благонадёжности.
Что ты будешь делать?


...
Причём, это хотя и кажется фантастикой, это таки хардкорная фантастика весьма ближнего прицела.