Родился 28 августа 1937 г. в д. Василишки Щучинского района Гродненской области. Учился в Василишковской средней школе.

В 1955 г. поступил на агрономический факультет Гродненского сельскохозяйственного института.

После окончания института работал в совхозе «Василишковский» Щучинского района агрономом отделения, а затем агрономом совхоза.

В конце 1961 г. перешел на работу в почвенный отряд при Гродненском сельскохозяйственном институте, где участвовал в крупномасштабном полевом обследовании почв колхозов и совхозов и составлении крупномасштабных карт.

В 1964 г. И. М. Богдевич поступил в аспирантуру Белорусского научно-исследовательского института почвоведения и агрохимии.

В 1966 г. принят на должность старшего научного сотрудника в отдел почвенного питания растений.

В 1970 г. избран на должность заведующего центральной агрохимической лабораторией, на которую возлагалось методическое руководство агрохимической службой республики.

В 1971 г. Иосиф Михайлович назначен заместителем директора по научной работе.

С декабря 1974 по июль 1977 г. находился в командировке в Ираке, где работал главным экспертом по плодородию почв Государственной организации по мелиорации земель Иракской республики. После возвращения из командировки продолжил свою работу в институте на должности заместителя директора по научной работе.

В период 1980–2005 гг. И. М. Богдевич являлся директором Института почвоведения и агрохимии НАН Беларуси.

С января 2006 г. Иосиф Михайлович работает заведующим отделом плодородия почв и лабораторией мониторинга плодородия почв и экологии.

Научная работа И. М. Богдевича была высоко оценена – в этом же году ему было присвоено ученое звание профессор и он был избран членом-корреспондентом, в 1994 г. – академиком Академии аграрных наук Республики Беларусь, в 2003 г. – избран академиком НАН Беларуси. И. М. Богдевич является известным ученым в области агрохимии и радиоэкологии. Он успешно развивает научные основы эффективного использования удобрений и управления плодородием почв, заложенные его учителями – академиками И. С. Лупиновичем и Т. Н. Кулаковской.

При непосредственном участии И. М. Богдевича успешно велись исследования по разработке защитных мер для уменьшения перехода радионуклидов в сельскохозяйственную продукцию и пищевую цепочку на загрязненной территории Беларуси после Чернобыльской аварии.

При непосредственном участии Иосифа Михайловича подготовлен и опубликован ряд международных методических рекомендаций по проблеме преодоления последствий радиоактивных аварий.