«ИИ может уничтожить человечество через 10 лет»: один из отцов машинного обучения написал большой доклад о безопасности.
Главное:
Главное:
– Нейросети постоянно создают фейковый контент, который может разжигать ненависть между людьми;
– Чат-ботов можно заставить написать инструкцию для бомбы, защитные механизмы все еще обходятся джейлбрейками;
– ИИ-технологии тратят огромное количество электроэнергии;
– Компании вкладывают в развитие ИИ миллиарды, но только «крошечная доля» этих денег идет на исследования безопасности;
– Появление недорогой и мощной DeepSeek ускорило гонку ИИ, поэтому на продумывание систем безопасности ни у кого нет времени;
– Человечество может в любой момент потерять контроль над искуственным интеллектом, если он станет слишком умным.
