Инструкция
1
Для решения задачи в общем виде обозначьте координаты точки как A₁(X₁;Y₁;Z₁), координаты ближайшей к ней точки на рассматриваемой прямой - как A₀(X₀;Y₀;Z₀), а уравнение прямой запишите в таком виде: a*X + b*Y + c*Z - d = 0. Вам нужно определить длину отрезка A₁A₀, который лежит на линии, перпендикулярной по отношению к описываемой уравнением. Перпендикулярный («нормальный») направляющий вектор ā = {a;b;c} поможет составить канонические уравнения проходящей через точки A₁ и A₀ прямой: (X-X₁)/a=(Y-Y₁)/b=(Z-Z₁)/c.
2
Запишите канонические уравнения в параметрической форме (X = a*t+X₁, Y = b*t+Y₁ и Z = c*t+Z₁) и найдите значение параметра t₀, при котором исходная и перпендикулярная к ней прямые пересекаются. Для этого подставьте параметрические выражения в уравнение исходной прямой: a*(a*t₀+X₁) + b*(b*t₀+Y₁) + c*(c*t₀+Z₁) - d = 0. Затем выразите из равенства параметр t₀: t₀ = (d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²).
3
Подставьте полученное на предыдущем шаге значение t₀ в определяющие координаты точки A₁ параметрические уравнения: X₀ = a*t₀+X₁ = a*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + X₁, Y₀ = b*t₀+Y₁ = b*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + Y₁ и Z₀ = c*t₀+Z₁ = c*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + Z₁. Теперь у вас есть координаты двух точек, осталось рассчитать определяемое ими расстояние (L).
4
Для получения численного значения расстояния между точкой с известными координатами и прямой, задаваемой известным уравнением, рассчитайте численные значения координат точки A₀(X₀;Y₀;Z₀) по формулам из предыдущего шага и подставьте значения в эту формулу:
L = (a*(X₁ - X₀) + b*(Y₁ - Y₀) + c*(Z₁ - Z₀)) / (a² + b² + c²)

Если же и результат надо получить в общем виде, он будет описываться довольно громоздким уравнением. Замените величины проекций точки A₀ на три координатные оси равенствами из предыдущего шага и упростите насколько возможно полученное равенство:
L = (a*(X₁ - X₀) + b*(Y₁ - Y₀) + c*(Z₁ - Z₀)) / (a² + b² + c²) = (a*(X₁ - a*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + X₁) + b*(Y₁ - b*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + Y₁) + c*(Z₁ - c*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + Z₁)) / (a² + b² + c²) = (a*(2*X₁ - a*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²))) + b*(2*Y₁ - b*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²))) + c*(2*Z₁ - c*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)))) / (a² + b² + c²) = (2*a*X₁ - a²*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + 2*b*Y₁ - b²*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²)) + 2*c*Z₁ - c²*((d - a*X₁ - b*Y₁ - c*Z₁)/(a² + b² + c²))) / (a² + b² + c²)
5
Если значение имеет только численный результат, а ход решения задачи не важен, воспользуйтесь онлайн-калькулятором, который предназначен именно для расчета расстояния между точкой и прямой в ортогональной системе координат трехмерного пространства - http://ru.onlinemschool.com/math/assistance/cartesian_coordinate/p_line. Здесь вы можете поместить в соответствующие поля координаты точки, ввести уравнение прямой в параметрическом или каноническом виде, а затем получить ответ, щелкнув по кнопке «Найти расстояние от точки до прямой».