там будет загвоздка только с углами. смотри, если за основу радиуса взять половину стороны квадрата, то мы получим вписанную в этот квадрат окружность, а если половину диагонали, то это будет описанная окружность
и оно настолько простое решение я удивился когда придумал) но фиг знает норм это или нет если квадрат будет всегда параллелен координатам. Тогда можно сравнить х0 с х1,х2