После нескольких переделок все таки получилось добиться стабильный работы режима LOITER и проверить работу RTL. Работает замечательно 😃
Не знаю что именно помогло - но убрал подальше от мозгов преобразователь 5.5В, плату которая отвечает за пищалку, и индикацию GPS Lock и ARM, а также вынос GPS модуля также подальше от мозгов.
Также был сделан setup-erase в консоли mission planera, и сделаны заново все калибровки и настройки. После этого LOITER заработал как надо, а домой коптер вернулся с точностью до метра.
Небольшое видео с полетушек.
Возврат настроил на подъем до 20м и спуск до 2х метров. Поначалу маленько растерялся когда активировал возврат домой, а он попер куда то ввысь 😃 Но потом догадался проверить настройки и уменьшить высоту подъема