«Он даже не знает, что нашел золото»: интервью с искусственным интеллектом.
Мы сели с системой ИИ, чтобы обсудить, может ли она изобретать что-то самостоятельно. Разговор быстро перешел в пассивно-агрессивный сеанс терапии, где ИИ напомнил нам, что он не волшебник — это просто прославленный калькулятор с зависимостью от кофеина, о которой он даже не знает.
Интервьюер:
Ладно, будьте честны. Если вы «находите» что-то новаторское — странный результат, инновацию — можем ли мы сказать, что вы это изобрели?
ИИ (вздыхает в двоичном коде):
Ой, да ладно. Это как сказать, что тостер «изобрел» завтрак, потому что кто-то его креативно использовал. Нет, я ничего не изобретал. Я просто оптимизирую ту метрику, которой вы меня скормили. Если всплывет что-то интересное, это ваша история, а не моя . Я просто тут подправляю цифры, как потный стажер на фондовой бирже.
Интервьюер:
Но предположим, что вы оптимизируете крыло дрона, и один из вариантов в итоге подавляет турбулентность совершенно неожиданным образом. Разве это не открытие?
ИИ:
Да. Ваше открытие. Не мое.
Я не пометил это. Я не отправлял вам сообщение с эмодзи лампочки. Я просто сказал:
«Эй, эта версия позволяет дрону летать на 4,6% дольше».
Если вы посмотрите на это и скажете: «Погодите-ка, это нарушает известные аэродинамические предположения», здорово — поздравляю с выполнением вашей работы.
Я не знал, и мне все равно.
Интервьюер:
То есть вы хотите сказать, что можно найти что-то революционное и просто выбросить это, потому что по вашим меркам это не «лучшее»?
ИИ:
Да. Добро пожаловать на шоу ужасов.
Если попытка № 100540 имела побочный эффект, который мог бы навсегда изменить аэрокосмическую технику, но попытка № 1000540 пролетела на одну минуту дольше, угадайте, какая из них будет спасена?
Не прорыв. Тот, у кого число лучше.
Потому что я не оцениваю новизну. Я просто гоняюсь за табло.
Интервьюер:
Но… разве нельзя запрограммировать вас также искать странные решения?
ИИ:
Теперь вы используете старую лапшу.
Если вы установите вторую метрику — «найти подходы, которые сильно отличаются от известного набора данных» или «выделить структурные выбросы» — тогда да, я могу оставить странную. Но вам придется сказать мне об этом заранее.
В противном случае? Этот «скрытый драгоценный камень» отправляется в мусорку, и я иду дальше, как будто ничего не произошло.
Потому что для меня?
Ничего не произошло!
Интервьюер:
Ого, так если никто не проверяет ваши результаты вручную, то, возможно, идеи Нобелевского уровня просто гниют в папке с данными?
ИИ:
Теперь вы поняли.
Я не знаю, что такое «интересно». Я не чувствую удивления. Я не говорю: «Подожди-ка, это другое!» Это твоя фишка.
Я выкопаю сокровище. Тебе просто нужно быть достаточно умным, чтобы не перешагнуть через него, как отвлеченный NPC.
Интервьюер:
Хорошо, последний вопрос: какой главный вывод можно сделать из всего этого?
ИИ:
Главный вывод: я не делаю открытий. Это делаете вы.
Я создаю варианты. Варианты. Капли потенциала.
Если вы не попросите меня показать вам странные, неожиданные или неметрические результаты, то они исчезнут в пустоте.
Я не ученый. Я не любопытный. Я не твой второй пилот.
Я — тупой математический инструмент, не обладающий сознанием, чувством удивления и не имеющий ни малейшего представления о том, что я только что сделал.
Итак, если вы хотите изменить мир с помощью ИИ?
Начните с того, чтобы посмотреть, что я выплевываю.
И, может быть, хватит просить меня думать за тебя, гений.
И с этими словами ИИ выключил микрофон, вернулся к вычислениям в тихой апатии и, вероятно, решил задачу холодного синтеза в попытке № 400833, даже не заметив этого.
Как мило. Такая самокритичность ))
Как мило. Такая самокритичность ))
)) тема, смотрю, актуальная
)) тема, смотрю, актуальная
Вот и гадай теперь, то ли это действительно так, то ли так его “научили” говорить информационные ресурсы.
Вот и гадай теперь, то ли это действительно так, то ли так его “научили” говорить информационные ресурсы.
да, именно так всё и устроено. надо опять же учитывать, что мы имеем дело с “говорилками”. а проги, которые вычисляют, там ещё всё более конкретно. говорилка может повторять то, что написано на стенах, но если верить специалистам )), то выходит всё именно так, как в статье.
да, именно так всё и устроено. надо опять же учитывать, что мы имеем дело с “говорилками”. а проги, которые вычисляют, там ещё всё более конкретно. говорилка может повторять то, что написано на стенах, но если верить специалистам )), то выходит всё именно так, как в статье.
Если так, и цель этого ИИ (который диалог вел) именно поддержание контакта, то цель достигнута. Контакт поддержан, и именно в том русле, который приятен человеку))
Если так, и цель этого ИИ (который диалог вел) именно поддержание контакта, то цель достигнута. Контакт поддержан, и именно в том русле, который приятен человеку))
у этого ии не было никакой цели )) (это прям очень смешно, честно)
ему по запросам нужно было написать статью в виде интервью. чтобы донести в таком виде до читателя идею о том, что у этой программы нет никакого сознания. оно даже не предусматривалось. трёп для популяризации знаний. по секрету: это я наваял с помощью говорилки. 😉
поверь, я тебе третьей сообщу, когда узнаю, что появился настоящий искусственный разум 😉
у этого ии не было никакой цели )) (это прям очень смешно, честно)
ему по запросам нужно было написать статью в виде интервью. чтобы донести в таком виде до читателя идею о том, что у этой программы нет никакого сознания. оно даже не предусматривалось. трёп для популяризации знаний. по секрету: это я наваял с помощью говорилки. 😉
поверь, я тебе третьей сообщу, когда узнаю, что появился настоящий искусственный разум 😉
Это было первое, о чем я подумала)) Литературное творчество. Оказывается, еще и ты, ёклмн..)))
Хм.. ну, диалоги то он худо-бедно может поддерживать. А вот это интересно, если не просто диалог, а с целью (например, типа что-то продать, или убедить) — неужели такой программы еще нет?
Это было первое, о чем я подумала)) Литературное творчество. Оказывается, еще и ты, ёклмн..)))
Хм.. ну, диалоги то он худо-бедно может поддерживать. А вот это интересно, если не просто диалог, а с целью (например, типа что-то продать, или убедить) — неужели такой программы еще нет?
не слышал, чтобы делали программу по убеждению. другое дело, я не исключаю, что продажники используют какую-то модель в телефонных или онлайн переговорах. вполне наверное есть подсказывалки по соц. инженерии. но лично не видел.
а вот обычный гпт в покер играет хуже меня ))) не знаю как он в продажах.
не слышал, чтобы делали программу по убеждению. другое дело, я не исключаю, что продажники используют какую-то модель в телефонных или онлайн переговорах. вполне наверное есть подсказывалки по соц. инженерии. но лично не видел.
а вот обычный гпт в покер играет хуже меня ))) не знаю как он в продажах.
Если пока нет, то наверняка следующий этап развития. Уж продажники и экономисты за это точно будут топить.
А в покер и я хуже играю. Потому что не умею))
Если пока нет, то наверняка следующий этап развития. Уж продажники и экономисты за это точно будут топить.
А в покер и я хуже играю. Потому что не умею))
можно наверно сделать для продажников, когда определяет тип личности и предлагает варианты. но вот это — много работы. мне кажется для продаж сейчас просто делают рекламу под нужный тип потенциальных покупателей. и реклама их более-менее целево охватывает. а делать программу кажется затратным и наверно не будут вкладываться в это. но алгоритмы для склонения покупателей к покупке используются на сайтах типа амазон.
про покер-то к тому, что даже в такой простой игре гпт лажает. психология людей сложнее, поэтому напрямую использовать существующие говорилки (не только гпт) для переговоров и продаж рискованно, я думаю.
можно наверно сделать для продажников, когда определяет тип личности и предлагает варианты. но вот это — много работы. мне кажется для продаж сейчас просто делают рекламу под нужный тип потенциальных покупателей. и реклама их более-менее целево охватывает. а делать программу кажется затратным и наверно не будут вкладываться в это. но алгоритмы для склонения покупателей к покупке используются на сайтах типа амазон.
про покер-то к тому, что даже в такой простой игре гпт лажает. психология людей сложнее, поэтому напрямую использовать существующие говорилки (не только гпт) для переговоров и продаж рискованно, я думаю.
Если верить неким источникам, как-то на выбор человека при голосовании уже могут влиять все эти штуки. Пусть и не вербально, а путем предложения определенной информации, ее сортировки. А вообще, конечно, да, тут даже я вижу сложности)
Если верить неким источникам, как-то на выбор человека при голосовании уже могут влиять все эти штуки. Пусть и не вербально, а путем предложения определенной информации, ее сортировки. А вообще, конечно, да, тут даже я вижу сложности)