Аугментированное и критическое мышление
Исследование критического мышления, генеративного ИИ, возможностей и рисков аугментации с персональным интеллектом
(c) 2023 0ash
Случился генеративный ИИ, появились новые инстументы помогающие решать любые задачи. Аугментация или расширение возможностей, но, как обычно, есть и существенные риски.
Критическое мышление – это то, на что можно опереться и не потеряться в этом потоке изменений, не остаться за бортом прогресса и эволюции, не угодить в возможные ловушки и проблемы. Критическое мышление можно и нужно постоянно тренировать чтобы соответсвовать вызовам своего времени. Конечно, про критическое мышление уже есть множество книг, курсов и т. п. Но, несмотря на то, что материала созданно очень много, актуальность – важнейший критерий. Мышление (thinking) – вечная тема, которая требует постоянного изучения, развития, критического взгляда и нового переосмысления. Поэтому обновление подходов и знаний в контексте стремительного развития технологий, и в особенности генеративного и персонального ИИ не только актуально но и полезно. Текст разбит на небольшие блоки (пару минунт на чтение), которые можно изучать или пропускать в любой последовательности. Самое ценное – это критические комментарии и юмор конечно, без него никак, он играет свою, немаловажную роль в критическом мышлении. Энджой! И, давай уже мысли критически, иначе будут мыслить за тебя.
«Все, что мы слышим, – это мнение, а не факт. Все, что мы видим, – это точка зрения, а не истина» – Марк Аврелий. Остается только добавить, что с появлением генеративного ИИ, актуальность этого мнения только возрастает.
«Люди говорят одно, думают другое, делают третье» – существует такая, довольно интересная и вполне правдоподобная оценка человеческого мышления.
«Искусственный интеллект используют те кому не хватает естественного» – шутка про тех, кто не идет в ногу с прогрессом.
«У людей, условно можно считать есть два типа мышления: одно быстрое – ассоциативное основанное на мгновенном распознавании паттернов (опыте), другое медленное – логическое (требует рассуждений). На практике они сложнопостижимым образом переплетаются и взаимодействуют». Похоже у ИИ аналогичная ситуация: базовые языковые/мультимодальные модели (больше ассоциативные) + цепочки рассуждений (chan of thoughs/reasoning) на базе этих моделей.
«Для избавление от галлюцинаций больших языковых моделей нужна инженерия промптов» – похоже для людей тоже актуально.
«Люди, чаще всего, окружают себя теми кто подтверждает их когнитивные искажения» – только немногие способны работать с разными мнениями и взглядами для преодоления искажений.
«От персонального компьютера (PC) к персональному интеллекту (PI)» – страшно представить, что может быть дальше.
«Вычислительное мышление» – это как калькулятор только для мыслей, где вместо цифр – текст на естественном языке (и, да, там тоже текст переводится в числа – ембеддинги).
«Еще в древние времена мыслители пытались строить логические рассуждения, строить выводы одного из другого, но это приводило к циклам в рассуждениях. Тогда подход был изменен – определялось базовое множество аксиом или фактов не требующих доказательств. И, уже на базе этих аксиом можно было сторить логические рассуждения и доказательства других утверждений.» – в этом подходе есть существенная уязвимость, возможно изменить какой-нибудь «факт» в своих интересах чтобы все последующие выводы также были такие как нужно. При довольно сложных конструкциях обнаружить такие искажения довольно трудоемко, и даже если это сделать, аргументированно оспорить «факт» невозможно (ведь факты или принимаются на веру или нет, они не доказываются).
«Современная наука все больше виртуализируется. Делать новые открытия в наблюдаемой вселенной все сложнее и сложнее, на сегодняшний день практически невозможно даже при наличии супер сложного оборудования, такого как БАК. И, бинго, почему бы не придумывать виртуальные объекты, например виртуальные частицы, поля, все, что угодно.» – виртуализация науки объективный процесс, его не остановить, можно только урегулировать и как часто говорят – «не можешь остановть – возглавь». По сути это научная фантастика, и в современных условиях уже сложно понять где проходит эта грань. Для современных исследователей возможно регулирование через явное определение или маркировку того, что их работа содержит в себе такую «виртуализацию».
«Даже самые великие умы человечества не смогли построить полностью обоснованную и логически строгую картину мира. Все существующие теории лишь попытки это сделать.» – объективной реальности не существует, всегда есть лишь некоторые модели реальности основанные на аксиомах без доказательств. И другой подход пока не придуман. Могут ли современные технологии генеративного ИИ помочь? Сложный вопрос, пока, наверное нет, так как их вывод полностью зависит от исходных датасетов (текстов, картинок и т.п.). Вот когда новые ИИ-системы получат прямые возможности изучать наблюдаемую вселенную, ставить эксперименты, проверять гипотезы и т.д., тогда да, прорыв в познании возможен.
