Смещение детектора искусственного интеллекта и охват высшего образования в The Markup

Привет, мир

Один из наших новых репортеров делится своими планами по исследованию технологий в высшем образовании Автор: Тара Гарсиа Мэтьюсон

Hello World — это еженедельный информационный бюллетень, который доставляется каждое субботнее утро. В нем подробно рассматриваются наши оригинальные репортажи и вопросы, которые мы задаем крупным мыслителям в этой области. Просмотрите архив здесь.

Привет, читатели. Я рад представиться всем вам! Я Тара Гарсиа Мэтьюсон, один из новых репортеров The Markup, и я буду освещать здесь вопросы высшего образования. Моя первая история вышла на прошлой неделе, и я хотел бы рассказать вам о ней больше, а также о том, что я планирую рассказать в этой части.

Машинное обучение

Стэнфордское исследование показало, что детекторы искусственного интеллекта предвзято относятся к носителям английского языка

Во-первых, если вы пропустили, моя история о предвзятости, встроенной в детекторы искусственного интеллекта, которые стали популярны в кампусах колледжей после того, как ChatGPT вызвал новую панику по поводу мошенничества. Целью детекторов является распознавание написанного искусственным интеллектом текста. Хотя вы можете посчитать это похвальной целью, детекторы ИИ работают путем поиска предсказуемых фраз, простого словарного запаса и менее сложной грамматики — отличительных черт письма, созданного ИИ, которые по совпадению соответствуют стилю письма многих людей, для которых английский язык не является родным.

Детекторы, как объясняется в моей статье, делают многих иностранных студентов уникально уязвимыми перед ложными обвинениями в мошенничестве. Я разговаривал с несколькими студентами, которые были обеспокоены возможными последствиями: от неприятных разговоров с преподавателями и оскорбленных чувств до долгосрочного репутационного ущерба и потенциальной депортации. Я также разговаривал с преподавателями, которые были разочарованы проблемами с точностью детекторов, а также паникой вокруг использования ChatGPT в кампусах колледжей.

Машинное обучение

Четыре важнейших вопроса, которые должны задать родители и преподаватели

Если вы пропустили эту историю на прошлой неделе, прочтите ее и поделитесь ею со всеми студентами или преподавателями колледжей, которые встречались вам в жизни. Мне все равно хотелось бы услышать мнение преподавателей, которые заметили тенденции в ошибках детекторов ИИ, и студентов, которых сами ложно обвинили в мошенничестве из-за неисправных инструментов. Помимо иностранных студентов, кампусы являются домом для многих недавних иммигрантов, чей родной язык не английский, и они также остаются особенно уязвимыми для предвзятости детекторов ИИ. Со мной можно связаться по адресу [email protected], если вы хотите поделиться своим опытом или передать мое письмо кому-то из своих знакомых!

А пока позвольте мне рассказать вам, что я думаю об этом бите. Я планирую сосредоточиться на использовании и неправильном использовании технологий в высшем образовании. Я хочу раскрыть вред, который можно отнести к использованию образовательных технологий и распространению онлайн-обучения. Меня особенно интересует хроника вреда, нанесенного студентам-инвалидам, людям с более низкими доходами, тем, кто живет в сельской местности, а также иммигрантам, студентам колледжей в первом поколении, вернувшимся студентам, лицам, осуществляющим уход, или любой комбинации вышеперечисленного. .

Хотя в моих рассказах будут появляться элитные учебные заведения, я наиболее внимательно буду следить за тем, что происходит в тех местах, где обучается подавляющее большинство студентов высших учебных заведений США, имея в виду менее избирательные учебные заведения, такие как общественные колледжи и государственные четырехгодичные учебные заведения.

Я также хочу изучить компании, зарабатывающие деньги на коммерческом образовании и на многомиллиардном рынке образовательных технологий. Я вернусь в ваши почтовые ящики, когда найду примеры того, как их прибыль поступает за счет студентов.

Уровень повышен

Используйте эти инструменты и методы, чтобы получать «квитанции с улиц» практически без кода.

За последние несколько недель я провел ряд бесед с исследователями, правозащитниками, ИТ-специалистами, профессорами и студентами, чтобы получить представление о мире высшего образования. Я пришел в The Markup с более чем десятилетним опытом работы в сфере образования, хотя в основном в школах K-12. Я с нетерпением жду возможности глубже понять, как работают (или нет) колледжи и университеты, и расширить охват высшего образования в The Markup. На самом деле, вот еще один совет на случай, если вы это пропустили: видели ли вы историю Тодда Фезерса 2021 года о том, как университеты используют расу как фактор риска для успеха студентов? Программное обеспечение Navigate от EAB, о котором рассказал Тодд, по-видимому, до сих пор используется более чем 850 колледжами и университетами для консультирования более 10 миллионов студентов. Эта история стоит того, чтобы заглянуть в архивы и прочитать!