Страница 1 из 2
Re: iBGP проблема с коннектом
Добавлено: 21 сен 2017, 13:46
Chupaka
а у R2 и R3 (вы именно их называете CE?) какие задачи?
если свитч занимается маршрутизацией - то не всё ли ему равно, где там какие БГП в сторонке от него?
Пока что не очень понятно, чего надо добиться
Re: iBGP проблема с коннектом
Добавлено: 21 сен 2017, 14:15
timonsterrr
R2 и R3 - это PE
CE - это уровень дотсупа абонентов (роутер бижайший к ним)
Собственно еще раз попробовал переключиться на схему. И да, вы были правы - проблема с MTU
Почему то при переключении трафика в R3 максимальный MTU который проходит 1472 поэтому и такие проблемы со связь...другой вопрос....почему так резко падает мту...
Хотя стоп...1472 байта это и есть 150 мту....ничего не пойму в чем же засада
Re: iBGP проблема с коннектом
Добавлено: 21 сен 2017, 16:17
Chupaka
Так какие у них задачи? Зачем они двумя концами подключаются к одному и тому же оборудованию (R1 и L3-коммутатору)?
Re: iBGP проблема с коннектом
Добавлено: 21 сен 2017, 17:22
timonsterrr
r1 принимает линки провайдеров и поддерживает бгп сессии с провайдерскими хостами фул вью плюс на нем нат.
r2 осуществляет шейпинг торрентов и маршрутизацию ядра
r3 то же самое что р2 просто р2 близок к пределу производительности и было решено разделить нагрузку поставив параллельно р3 и перенаправить на него трафик от р1 путем ананса меньших префиксов адресов. в сторону р2 останутся укрупненние маршруты
свитч аггрегирует линки от узлов, поддерживает с ними оспф прцесс.
Re: iBGP проблема с коннектом
Добавлено: 21 сен 2017, 17:33
Chupaka
timonsterrr писал(а): ↑21 сен 2017, 17:22
путем ананса меньших префиксов адресов. в сторону р2 останутся укрупненние маршруты
о каких префиксах речь? локальных подсетей, анонсируемых в сторону r1? тогда балансироваться будет трафик из Интернета в сеть, исходящий будет идти через один роутер. если настроить на L3-коммутаторе ECMP на r2-r3 - он будет балансировать исходящий между ними (строго говоря, в примерно случайном порядке, более-менее равномерно) - подойдёт ли это для шейперов?
мы в своё время распределяли нагрузку на уровне узлов агрегации, они policy routing'ом балансировали абонентов на аналоги ваших r2 и r3, которые занимались шейпингом и натированием, а r1 работал уже чисто для ebgp
Re: iBGP проблема с коннектом
Добавлено: 21 сен 2017, 19:00
timonsterrr
речь о локальных префиксах. По сути сейчас все, что касается маршрутизации - работает, трафик балансируется как надо и тд. Беда только с проблемой что хттп трафик как то странно проходит через р3. похоже на то будто пакеты бьются. страницы могут открываться кусками и тд, если возвращаю трафик через р2 то все работает ок. Завтра буду снимать дампы, смотреть что происходит с пакетами при прохождении р3. Ибо мысли закончились уже.
В текущей схеме пока что да. исходящий весь идет через один роутер р2. мне важнее сбалансировать трафик, возвращающийся в сеть от р1. ну и попутно перестроить сеть полностью на динамические протоколы маршрутизации, привести в порядок ядро и агрегацию и заняться наконец файрволом и тд.
Re: iBGP проблема с коннектом
Добавлено: 25 сен 2017, 08:33
timonsterrr
Cнял дамп, при ситуации, когда трафик возвращается через R3 (хост к которому обращался 185.70.107.42)
Вижу, что в дампе что то идет не так...но моих познаний не хватает для определения причины. Если бы кто то мог подсказать мне бы это сильно помогло.
ссылка на дамп:
https://cloud.mail.ru/public/HwN6/ghtKDvkPh
Re: iBGP проблема с коннектом
Добавлено: 25 сен 2017, 08:59
Chupaka
Маршруты на R1 в сторону локальных подсетей нормальные? На R2 и R3 как файрвол настроен?
Re: iBGP проблема с коннектом
Добавлено: 25 сен 2017, 09:10
timonsterrr
Chupaka писал(а): ↑25 сен 2017, 08:59
Маршруты на R1 в сторону локальных подсетей нормальные? На R2 и R3 как файрвол настроен?
на R2 файрвол пока что не включен, а вот конфиг с R3:
Код: Выделить всё
ip firewall filter print
Flags: X - disabled, I - invalid, D - dynamic
0 X ;;; Add Syn Flood IP to the list
chain=input action=add-src-to-address-list tcp-flags=syn connection-limit=30,32 protocol=tcp address-list=Syn_Flooder address-list-timeout=30m
1 X ;;; Drop SYN Flood
chain=input action=drop src-address-list=Syn_Flooder
2 X chain=input action=add-src-to-address-list address-list=remider address-list-timeout=1d connection-mark=show-reminder log=no log-prefix=""
3 X chain=forward action=add-src-to-address-list dst-address-list=noris address-list=norisy address-list-timeout=1w log-prefix="norisy"
4 X ;;; Pornohub
chain=forward action=add-src-to-address-list dst-address-list=pornhub address-list=drochers address-list-timeout=5d log=no log-prefix=""
5 X chain=forward action=reject reject-with=icmp-network-unreachable dst-address-list=pornhub log=no log-prefix=""
6 X ;;; TrackersMark
chain=forward action=add-src-to-address-list dst-address-list=trackers address-list=kachki address-list-timeout=2d log=no log-prefix=""
7 X chain=input action=reject protocol=tcp in-interface=InternalLink dst-port=21
8 X chain=input action=drop protocol=tcp in-interface=InternalLink dst-port=22
9 X chain=input protocol=tcp src-address=10.125.125.0/24 dst-port=22
10 X chain=input action=accept dst-address=194.190.80.93 log=no log-prefix=""
11 X chain=input action=drop protocol=tcp src-port=16660 log=yes
12 chain=input action=drop connection-state=invalid
13 chain=forward action=drop connection-state=invalid
14 X ;;; drop DHCP not 92vlan
chain=forward action=drop protocol=udp in-interface=!bridge92 out-interface=!bridge92 dst-port=68 log=yes log-prefix=""
15 X ;;; drop DHCP not 92vlan
chain=forward action=drop protocol=udp in-interface=!bridge92 out-interface=!bridge92 dst-port=67 log=yes log-prefix=""
16 X chain=forward action=add-src-to-address-list src-address-list=!allowed address-list=not_found address-list-timeout=15m in-interface=!InternalLink out-interface=InternalLink
17 X chain=forward src-address=172.16.33.10 dst-address=80.89.138.3
18 X chain=input protocol=tcp src-address=194.190.81.235 dst-port=8291
19 ;;; ToServers
chain=forward dst-address-list=servers
20 chain=forward dst-address=10.125.125.0/24
21 X ;;; Billing
chain=input action=accept src-address=80.89.138.3 log=no log-prefix=""
22 X chain=input action=accept protocol=tcp src-address=172.16.0.0/16 dst-port=8080,8081,8082 log=no log-prefix=""
23 X chain=input action=accept protocol=tcp src-address=10.125.0.0/16 dst-port=8080,8081,8082 log=no log-prefix=""
24 X chain=input action=accept protocol=tcp src-address=194.190.80.0/22 dst-port=8081,8082 log=no log-prefix=""
25 X chain=input action=accept protocol=tcp src-address=80.89.138.0/24 dst-port=8081,8082 log=no log-prefix=""
26 X chain=input action=drop protocol=tcp dst-port=8080,8081,8082 log=no log-prefix=""
27 X chain=forward action=drop src-address=172.16.0.0/16 dst-address=10.125.125.0/24 dst-address-list=!servers log=yes log-prefix=""
28 X chain=forward action=reject src-address=172.16.33.10 dst-address-list=https_ban
29 X chain=forward action=accept src-address=10.125.125.0/24 log=no log-prefix=""
30 X ;;; TechDir
chain=forward src-address=194.190.80.94
31 X ;;; Save Billing
chain=forward action=drop dst-address=80.89.138.3
32 X chain=forward action=drop dst-address-list=mgmt in-interface=InternalLink log=no log-prefix=""
33 X ;;; 172.16.0.0/16
chain=forward action=add-src-to-address-list src-address=172.16.0.0/16 src-address-list=!clients address-list=suspected address-list-timeout=2d
34 X ;;; 194.190.80.0/22
chain=forward action=add-src-to-address-list src-address=194.190.80.0/22 src-address-list=!clients address-list=suspected address-list-timeout=2d
35 X ;;; 80.89.138.0/24
chain=forward action=add-src-to-address-list src-address=80.89.138.0/24 src-address-list=!clients address-list=suspected address-list-timeout=2d
36 X chain=forward action=passthrough src-address=10.125.125.162 log=no log-prefix=""
37 X ;;; Neoplata
chain=forward action=reject reject-with=icmp-network-unreachable src-address-list=banned log=no log-prefix=""
38 X chain=forward action=drop src-address=10.125.125.84 log=no log-prefix="
Большая часть правил выключена, за неактуальностью, есть только несколько самых базовых
Re: iBGP проблема с коннектом
Добавлено: 25 сен 2017, 09:13
timonsterrr
Отключил все правила файрвола на R2 (через него идет весь исходящий трафик) все заработало, спасибо за подсказку.
Re: iBGP проблема с коннектом
Добавлено: 25 сен 2017, 09:16
timonsterrr
В принципе все логично....в файрволе правило на форвардинг на дроп соединений с коннект сейтом инвалид. Маршрутизатор видит только исходящие пакеты а входящего трафика не видит, и информации о состоянии не имеет, что подпадает под правило дропа...и пакет дропается.
Настройка файрвола для меня следующий этап...пока что темный лес, знаю только базовые принципы. Буду разбираться...
Re: iBGP проблема с коннектом
Добавлено: 25 сен 2017, 10:42
Chupaka
Да, с несимметричной маршрутизацией надо продумывать правила фильтра, с соединениями работать толком не получится.
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 09:18
timonsterrr
Chupaka писал(а): ↑21 сен 2017, 17:33
timonsterrr писал(а): ↑21 сен 2017, 17:22
путем ананса меньших префиксов адресов. в сторону р2 останутся укрупненние маршруты
о каких префиксах речь? локальных подсетей, анонсируемых в сторону r1? тогда балансироваться будет трафик из Интернета в сеть, исходящий будет идти через один роутер. если настроить на L3-коммутаторе ECMP на r2-r3 - он будет балансировать исходящий между ними (строго говоря, в примерно случайном порядке, более-менее равномерно) - подойдёт ли это для шейперов?
мы в своё время распределяли нагрузку на уровне узлов агрегации, они policy routing'ом балансировали абонентов на аналоги ваших r2 и r3, которые занимались шейпингом и натированием, а r1 работал уже чисто для ebgp
Есть вопрос по ECMP
У меня L3 свитч это цискостайл железка. Команды 1в1.
на ней прописан дефолт роут 0.0.0.0 0.0.0.0 1.1.1.1
если я пропишу так:
ip route load-balance
ip route max-paths 8
ip route 0.0.0.0 0.0.0.0 1.1.1.1 (роут для исходящего на R2)
ip route 0.0.0.0 0.0.0.0 2.2.2.2 (роут для исходящего на R3)
будет ли при таком конфиге исходящий трафик балансироваться и при падении например 1.1.1.1 полностью переключаться в 2.2.2.2?
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 10:20
Chupaka
Как понимаю, на циске необходимо убедиться, что интерфейс, через который доступен адрес шлюза, будет падать при аварии. Т.е. там нет проверки доступности шлюза, и если роутер выключится, но интерфейс останется в состоянии UP, то коммутатор вполне может продолжить слать пакеты в порт, хотя их никто не принимает.
Я бы попробовал вместо статических маршрутов на роутерах настроить в OSPF default-originate (не забыть ip route load-balance) - коммутатор вполне должен сам подхватить ECMP-маршрут, и при пропадании роутера его некстхоп сам пропадёт из маршрутизации
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 10:22
timonsterrr
Chupaka писал(а): ↑27 сен 2017, 10:20
Как понимаю, на циске необходимо убедиться, что интерфейс, через который доступен адрес шлюза, будет падать при аварии. Т.е. там нет проверки доступности шлюза, и если роутер выключится, но интерфейс останется в состоянии UP, то коммутатор вполне может продолжить слать пакеты в порт, хотя их никто не принимает.
Я бы попробовал вместо статических маршрутов на роутерах настроить в OSPF default-originate (не забыть ip route load-balance) - коммутатор вполне должен сам подхватить ECMP-маршрут, и при пропадании роутера его некстхоп сам пропадёт из маршрутизации
Пожалуй так и сделаю. Тоже уже думал об этом. Спасибо
Я так понимаю за это на микротах отвечает distribute-default опция инстанса?
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 11:28
timonsterrr
Настроил на микротах default distribute, свитч получил маршрут 0.0.0.0 но в одном экземпляре. Если на одном из микротов отключить дистрибуцию дефолт роута то он получает от другого. Тобишь резервирование работает, а вот балансировка нет т.к. маршрут не вида
0.0.0.0/0 1.1.1.1
2.2.2.2
а обычный либо на R2 либо на R3
и отличается метрика полученных маршрутов от R2 [150,6] от R3 [150,2] Поэтому и не работает балансировка т.к. маршруты не равновесны...надо понять теперь почему метрика отличается
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 11:37
timonsterrr
оба подключены к свитчу напрямую...10gb линками. Отличаются только маски транспортных сетей для R3 на /30 для R2 на /29
Вроде понял почему так....для R3 network type - point-topoint, а для R2 - broadcast
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 11:43
Chupaka
Для того, чтобы понять, почему метрики разные, неплохо бы конфигурацию увидеть
/route ospf instance print для начала
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 11:44
timonsterrr
Chupaka писал(а): ↑27 сен 2017, 11:43
Для того, чтобы понять, почему метрики разные, неплохо бы конфигурацию увидеть
/route ospf instance print для начала
Вроде понял почему так....для R3 network type - point-topoint, а для R2 - broadcast Это оказывает влияние?
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 11:50
Chupaka
А если default сделать с типом 2? Ну и мы всё же до сих пор не увидели Default Route Metric
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 12:07
timonsterrr
Chupaka писал(а): ↑27 сен 2017, 11:50
А если default сделать с типом 2? Ну и мы всё же до сих пор не увидели Default Route Metric
R2
Код: Выделить всё
routing ospf instance print
Flags: X - disabled, * - default
0 * name="default" router-id=10.255.0.254 distribute-default=always-as-type-1
redistribute-connected=as-type-1 redistribute-static=no
redistribute-rip=no redistribute-bgp=no redistribute-other-ospf=no
metric-default=5 metric-connected=20 metric-static=20 metric-rip=20
metric-bgp=auto metric-other-ospf=auto in-filter=ospf-in
out-filter=ospf-out
R3
Код: Выделить всё
routing ospf instance print
Flags: X - disabled, * - default
0 * name="default" router-id=10.255.0.252 distribute-default=never
redistribute-connected=as-type-1 redistribute-static=no
redistribute-rip=no redistribute-bgp=no redistribute-other-ospf=no
metric-default=1 metric-connected=20 metric-static=20 metric-rip=20
metric-bgp=auto metric-other-ospf=auto in-filter=ospf-in
out-filter=ospf-out
Пока что отключил на R3 дистрибуцию дефолтового роута (есть еще необходимость перенастроить мангл на нем)
да, снова моя невнимательность. метрики для дефолт разные. Выставил одинаковые все получилось.
Re: iBGP проблема с коннектом
Добавлено: 27 сен 2017, 12:52
Chupaka