Саммари со встречи дискуссионного клуба Method.GSOM
Общие принципы этики в сфере ИИ (и понимание, когда они не соблюдаются):
▫️человеко-ориентированный подход и отсутствие дискриминации (примеры дискриминации у ИИ появляются часто, это в большей мере связано с данными, на которых обучалась нейросеть)
▫️прозрачная оценка рисков и подотчётность ИИ (в большинстве стран отсутствует порядок регулирования)
▫️соответствие законодательству и информационная безопасность (некоторые сервисы на базе ИИ открыто заявляют о сборе данных)
▫️ответственность на человеке (за все последствия работы с ИИ всегда отвечает человек)
▫️прозрачная оценка рисков и подотчётность ИИ (в большинстве стран отсутствует порядок регулирования)
▫️соответствие законодательству и информационная безопасность (некоторые сервисы на базе ИИ открыто заявляют о сборе данных)
▫️ответственность на человеке (за все последствия работы с ИИ всегда отвечает человек)
Базовая ИИ-грамотность
Нейросети галлюцинируют и не всегда дают корректный результат. И здесь важно помнить два правила:
◾️ответ любых чат-ботов — «зеркало вопроса» (чем больше деталей и контекста, тем вероятнее получить качественный результат)
◾️«на чём ИИ учили, то и получили» (не все источники в интернете, на которые ссылается нейросеть, могут быть полными и достоверными, а чтобы самостоятельно обучить ИИ и избежать искажений, нужно использовать проверенные и разнообразные данные)
◾️ответ любых чат-ботов — «зеркало вопроса» (чем больше деталей и контекста, тем вероятнее получить качественный результат)
◾️«на чём ИИ учили, то и получили» (не все источники в интернете, на которые ссылается нейросеть, могут быть полными и достоверными, а чтобы самостоятельно обучить ИИ и избежать искажений, нужно использовать проверенные и разнообразные данные)
Фреймворк для принятия решения, предлагать ли студентам использовать ИИ
Определиться с выбором помогает модель POWER:
Purposeful — подбираем наилучший вариант для ожидаемого образовательного результата (для чего мы предлагаем студентам использовать ИИ)
Optimal — знакомим студентов с инструментом и показываем, как оптимальным образом использовать функционал ИИ
Wise — настаиваем на критическом подходе (смотрим цифровой след и ход мышления, как студенты поставили задание ИИ, оценили качество ответа и доработали)
Ethical — учитываем этические принципы
Responsible — объясняем студентам ответственность за финальный результат
При поддержке Perplexity Александре Бордунос удалось перевести модель POWER на русский язык. Из этого получилось ДУМAI:
Доступность — выбираем инструмент, который не требует VPN и оплаты, не нарушает законодательство и этические принципы
Управляемость — инструменты, где студенты нажимают на кнопку и буквально получают результат, не подходят для образовательного процесса (выбор стоит отдавать тем сервисам, где есть управляемость и прозрачность процессов)
Методичность — встраиваем инструмент таким образом, чтобы студентам было понятно, что именно оценивается и зачем используется ИИ
Purposeful — подбираем наилучший вариант для ожидаемого образовательного результата (для чего мы предлагаем студентам использовать ИИ)
Optimal — знакомим студентов с инструментом и показываем, как оптимальным образом использовать функционал ИИ
Wise — настаиваем на критическом подходе (смотрим цифровой след и ход мышления, как студенты поставили задание ИИ, оценили качество ответа и доработали)
Ethical — учитываем этические принципы
Responsible — объясняем студентам ответственность за финальный результат
При поддержке Perplexity Александре Бордунос удалось перевести модель POWER на русский язык. Из этого получилось ДУМAI:
Доступность — выбираем инструмент, который не требует VPN и оплаты, не нарушает законодательство и этические принципы
Управляемость — инструменты, где студенты нажимают на кнопку и буквально получают результат, не подходят для образовательного процесса (выбор стоит отдавать тем сервисам, где есть управляемость и прозрачность процессов)
Методичность — встраиваем инструмент таким образом, чтобы студентам было понятно, что именно оценивается и зачем используется ИИ
Чёткое определение ИИ-плагиата и обсуждение правил со студентами
Недавнее исследование показало: студенты хорошо осведомлены о возможностях ИИ (и чаще больше, чем преподаватели), но у них нет системного понимания ИИ-плагиата. Поэтому здесь возникает необходимость в разработке стандартов использования ИИ. И на преподавателя ложится ещё одна ответственность — за формирование своеобразного «свода правил».
Готовые наработки
Существуют документы, из которых можно почерпнуть идеи для использования ИИ студентами. Вот некоторые из них:
▫️Кодекс этики в сфере ИИ и Декларация об ответственном ИИ от российского ИИ-альянса
▫️Руководство по использованию ИИ в образовании от ЮНЕСКО
▫️Политика применения ИИ в Высшей школе менеджмента СПбГУ
▫️Политики РУДН в области применения ИИ
▫️Декларация этических принципов использования ИИ от НИУ ВШЭ
▫️Кодекс этики в сфере ИИ и Декларация об ответственном ИИ от российского ИИ-альянса
▫️Руководство по использованию ИИ в образовании от ЮНЕСКО
▫️Политика применения ИИ в Высшей школе менеджмента СПбГУ
▫️Политики РУДН в области применения ИИ
▫️Декларация этических принципов использования ИИ от НИУ ВШЭ
И в завершение — ещё один пример «свода правил» для студентов от ИТМО:
• ИИ — это инструмент, который помогает в решении задач, но не заменяет вашей умственной работы
• используйте ИИ для вдохновения: ИИ может предложить идеи и направления, но ваша задача — анализировать и дорабатывать результаты
• развивайте критическое мышление: задавайте вопросы и проверяйте факты
• указывайте на использование ИИ: если вы используете ИИ в своей работе, то объясните, где и как он вам помог
• соблюдайте академическую честность: не копируйте текст, созданный ИИ, как свой
• цените сам процесс, а не только результат (мысли и рассуждения важнее, чем просто сданная работа)
• обсуждайте с преподавателями и однокурсниками, как вы используете ИИ (это поможет лучше понять его возможности и ограничения)
• ИИ — это инструмент, который помогает в решении задач, но не заменяет вашей умственной работы
• используйте ИИ для вдохновения: ИИ может предложить идеи и направления, но ваша задача — анализировать и дорабатывать результаты
• развивайте критическое мышление: задавайте вопросы и проверяйте факты
• указывайте на использование ИИ: если вы используете ИИ в своей работе, то объясните, где и как он вам помог
• соблюдайте академическую честность: не копируйте текст, созданный ИИ, как свой
• цените сам процесс, а не только результат (мысли и рассуждения важнее, чем просто сданная работа)
• обсуждайте с преподавателями и однокурсниками, как вы используете ИИ (это поможет лучше понять его возможности и ограничения)