Сначала запишем коэффициенты уравнения прямой на которой лежит отрезок, и если точка лежит на данной прямой, то потом проверим чтобы точка лежала между 2-мя концевыми точками отрезка.
Но проше решить эту задачу, не используя уравнение прямой, а опираясь на векторное (псевдоскалярное) произведение.