Look At функция

Возьми движок готовый и не делай себе голову.

1. Разложи на два поворота: горизонтальный и вертикальный
2. Перемножь кватернионы чтобы получить композицию поворотов (не перепутай порядок)
3. Получи искомый поворот

Quat().fromTo

Кстати, а тебе норм использовать библиотеку без документации?

Кстати, а тебе норм использовать библиотеку без документации?

Смысле? Я читал документацию, и примеры смотрел https://armory3d.org/manual/#/code/transform

Перемножь кватернионы чтобы получить композицию поворотов (не перепутай порядок)

Чет куйня какая-то выходит (до 180 градусов нормально, а потом перевороты):

var p = camera.transform.world.getLoc();
var tp = object.world.getLoc();
var mx = (tp.x - p.x);
var my = (tp.y - p.y);
var mz = (tp.z - p.z);
var horizontal = new Vec4(mx, my, 0).normalize();
var vertical = new Vec4(mx, 0, mz).normalize();
var fq = new Quat().fromMat(camera.transform.world);
var hq = new Quat().fromTo(Vec4.yAxis(), horizontal);
var vq = new Quat().fromTo(Vec4.xAxis(), vertical);
var tq = new Quat().multquats(vq,hq);
empty.transform.rot.lerp(fq, tq, 3.0 * Time.delta);

Я к тому, что вместо документации там лишь список методов без единой строчки текста.

empty это камера, напутал когда постил сюда.
Y это направление вперед, X вправо, Z вверх

к тому, что вместо документации там лишь список методов без единой строчки текста

Ну, приблизительно такие функции я из других движков помню, в общем, как-то так. Движок сырой, так что, документации подробной у него долго не будет.

После 180 градусов ты оказываешься по другую сторону плоскости yz и получаешь тупой угол.

Можно попробовать Vec4(sqrt(mx^2 + my^2), 0, mz) вместо Vec4(mx, 0, mz), например.

mx^2

Что значит ^?

^2 это возведение в квадрат (не знаю, как там в Haxe его правильно записать).
Суть в том, что мы смотрим вертикальный угол с точки зрения системы координат, где иксовая компонента всегда смотрит по направлению объекта.