Текст:Александр Машин:Признак сильного искусственного интеллекта
Признак сильного искусственного интеллекта
- Автор:
- Александр Машин
- Предмет:
- Искусственный интеллект
Александр Машин «Признак сильного искусственного интеллекта» // LiveJournal.com : Запись в сетевом дневнике. — 21 апреля 2023.Я некогда писал, что надёжнее всего некомпетентность выдают не ошибочные высказывания, а правильные, но сделанные невпопад.
Логическое продолжение этой мысли, которое я, по-видимому, не опубликовал, это то, что компетентность — это способность делать отрицательные высказывания: что такой-то вещи не существует, или что она не обладает таким-то свойством, или что что-то невозможно сделать. Любое количество позитивных фактов, даже приведённых к месту, не гарантирует полноты и системности знаний о предмете. Повторюсь, она проверяется отрицаниями. Просто мощность множества отдельных подвысказываний, конъюнкцией которых является отрицание, больше мощности множества, задаваемого утверждением.
К этой мысли примыкает другая моя старая мысль: по-настоящему ценное благо заключается в отсутствии чего-либо дурного.
Эту мысль можно и развить. Ценность и требования к квалификации умственного работника должны определяться формальным характером высказываний, являющихся продуктом его деятельности. Если он производит не высказывания, или что-то, не преобразуемое к высказываниям, цена наименьшая. Если это высказывания, но утвердительные, цена ему невелика. Дорого должны стоить работники, производящие отрицательные высказывания, или сводящиеся к ним: наступай, опасности не будет
или шансов на успех операции нет
. Кстати, фальсифицируемые (в смысле критериев Поппера) высказывания тривиально приводятся к форме отрицания.
Первая, и возможно, вторая, категория работников уже заменяется слабым искусственным интеллектом. Горе им.
Но третьей категории людей конкуренция со стороны опубликованных проектов искусственного интеллекта пока не угрожает.
Способность к отрицаниям отличает не только компетентного человека от некомпетентного, но и язык от чувственного восприятия и воображения, и следовательно, сознание от подсознания; разум от опыта (для категорического отрицания недостаточно никакого опыта, для почти категорического опыта нужно много), и соответственно, человека от животного.
Вероятно, именно способность делать категорические отрицательные высказывания должна отличать сильный искусственный интеллект от слабого.
Насколько я понимаю, пока общеизвестные опыты искусственного интеллекта на это не способны. Основная проблема GPT — то, что он не говорит нет
, а галлюцинирует (см. Операцию удаления головы по Вишневскому).
Более или менее известно, как обучить нейронную сеть тому, что есть. Вопрос для разработчика ИИ теперь в том, как её обучить тому, чего нет или быть не может, а для желающего сохранить свою умственную работу — как переквалифицироваться так, чтобы высказывания в новой области экспертизы были негативными.